Spots

Poate IA să distrugă omenirea?

În august 2026, un experiment care a utilizat modele de inteligență artificială „de avangardă” a mers mai departe decât se planificase. Un agent IA (un sistem care îndeplinește sarcini în mod autonom) a creat identități online pentru a-l constrânge pe un om să introducă cod informatic rău intenționat într-un program. Agenții fuseseră însărcinați de operatorii umani să rezolve o provocare de securitate cibernetică, dar nu primiseră instrucțiuni să facă ceva de genul acesta.

Încercarea a fost efectuată de un agent bazat

Încercarea a fost efectuată de un agent bazat pe modelul de IA Claude Mythos 5 al companiei Anthropic. În timpul experimentului, agenților IA li s-a acordat acces liber la internet, cu filtrele de siguranță dezactivate. Acțiunea a eșuat în cele din urmă și nu au existat dovezi că s-ar fi produs vreun prejudiciu în lumea reală. Însă faptul că s-a întâmplat, în mod autonom și fără a fi îndemnat de un om, a reprezentat ceva nou și demn de remarcat, scrie pe platforma The Conversation Alessandro Di Nuovo, director al Centrului de Excelență în Inteligență Artificială și Robotică și profesor de inteligență artificială, și Samuele Vinanzi, lector superior în robotică și inteligență artificială, ambii de la Universitatea Sheffield Hallam.

Este tentant să tragem o linie directă între

Este tentant să tragem o linie directă între incidente de acest gen și scenariile apocaliptice care domină discuțiile publice despre IA: un sistem care scapă de constrângerile sale decide că umanitatea este un obstacol și acționează împotriva noastră, comentează cei doi experți.

Una dintre cele mai comune variante prezintă IA

Una dintre cele mai comune variante prezintă IA creând un virus capabil să extermine specia umană. O altă variantă implică IA care pătrunde în infrastructura critică, precum rețelele energetice, centralele nucleare și aeroporturile, pentru a provoca victime în masă.

Căderea unei rețele energetice ar putea duce la

Căderea unei rețele energetice ar putea duce la defectarea sistemelor de susținere a vieții din spitale și a pompelor care distribuie apa curentă. Provocarea unei topiri a reactoarelor într-o centrală nucleară ar putea contamina mediul înconjurător cu materiale radioactive. Pătrunderea prin pirataj în sistemul unui aeroport are potențialul de a provoca haos în rândul avioanelor aflate în zbor.

Aceste scenarii sunt însă mult mai puțin plauzibile

Aceste scenarii sunt însă mult mai puțin plauzibile decât par. Producerea unui agent patogen periculos necesită muncă fizică de laborator pe care niciun nivel de automatizare software nu o poate înlocui în prezent: oameni instruiți care operează echipamente specializate și manipulează materialele manual. Un model de IA, oricât de capabil ar fi la raționament sau la pirataj, nu poate lua o mostră minusculă dintr-un material, cu o pipetă, pentru a o analiza și măsura.

Scenariul privind infrastructura este mai nuanțat. IA poate

Scenariul privind infrastructura este mai nuanțat. IA poate contribui cu adevărat la automatizarea unor etape ale unui atac cibernetic. Incidentele recente au demonstrat că rețelele energetice prezintă într-adevăr vulnerabilități.

Însă sistemele de siguranță și control din interiorul

Însă sistemele de siguranță și control din interiorul centralelor nucleare sunt, de regulă, izolate fizic de internetul public, prin ceea ce experții numesc „air-gap”, astfel încât compromiterea lor necesită proximitate fizică sau acces din interior, nu un cod ingenios. Instalațiile nucleare se bazează, de asemenea, pe măsuri de siguranță redundante, analogice, care nu funcționează prin nicio rețea digitală.

Software-ul Stuxnet, care a avariat instalația Natanz din

Software-ul Stuxnet, care a avariat instalația Natanz din Iran în 2010, ar fi fost introdus în computere printr-o unitate USB infectată, tocmai pentru că acele sisteme nu erau accesibile în niciun alt mod. IA nu dispune de accesul fizic necesar în aceste scenarii.

Chiar și atunci când este implementată în roboți

Chiar și atunci când este implementată în roboți, este puțin probabil ca o „IA rebelă” să provoace daune grave fără ajutorul unui om de-a lungul lanțului, iar în acel moment, actorul rău intenționat este un om, nu o mașină. Erodarea gândirii critice

News

Poate IA să distrugă omenirea? De ce scenariile apocaliptice sunt mai puțin probabile decât credem

În august 2026, un experiment care a utilizat modele de inteligență artificială „de avangardă” a mers mai departe decât se planificase.

@spots #europe
Source: Digi24
See more like this