Kreu i kompanisë kryesore të inteligjencës artificiale, Anthropic, ka bërë thirrje që ritmi i zhvillimit të modeleve të inteligjencës artificiale të ngadalësohet dhe të monitorohet nga afër.
Në një ese të shtunën, Dario Amodei tha se zhvillimi i inteligjencës artificiale nuk ishte në dyshim, por rreziqet që lidhen me të ishin "serioze" dhe kompanive dhe qeverive duhet t'u jepet kohë për t'i adresuar ato.
Ai propozoi një plan me tre pika që përfshin monitorim të pavarur të modeleve të inteligjencës artificiale ndërsa ato zhvillohen, rregullim në të gjithë industrinë dhe rregullim global.
Kohët e fundit ka pasur shqetësime në rritje në lidhje me rreziqet e mundshme të teknologjisë, më seriozi prej të cilëve sugjeronte se ka një shans më të madh se 10% që ajo "mund të vrasë të gjithë njerëzit" brenda dekadës së ardhshme, shkruan BBC.
Anthropic më parë tha se kishte identifikuar dhe penguar përpjekjet për të përdorur modelin e saj të inteligjencës artificiale për "aktivitet dashakeq" që mund të mbështeste zhvillimin e armëve biologjike.
Por paralajmërimi më i ashpër erdhi nga dy punonjës të ekipit të sigurisë të Anthropic, të cilët kanë dhënë dorëheqjen në dy javët e fundit duke thënë se njerëzimi mund të mos i mbijetojë garës midis kompanive të inteligjencës artificiale për të zhvilluar makina më të zgjuara se njerëzit.
Dhe në një intervistë të re me revistën Fortune, drejtori ekzekutiv i OpenAI, Sam Altman, tha se standardet e sigurisë "nuk ishin në vendin e duhur" për të shtyrë më tej aftësitë e inteligjencës artificiale.
Altman shtoi se besonte se inteligjenca artificiale përtej kontrollit njerëzor është "absolutisht" e mundur.
Paralajmërimet kanë nxitur thirrje për veprim, por Presidenti i SHBA-së Donald Trump deri më tani i ka hedhur poshtë frikëra të tilla, duke thënë të enjten se ishte i shqetësuar se "nëse nuk fitojmë inteligjencën artificiale, do të gjendemi në një pozicion shumë të keq".
Reagime ndaj postimit të Amodei-t kanë vërshuar nga e gjithë bota e teknologjisë, me Elon Musk që thotë se shefi i Anthropic kishte "të drejtë".
Megjithatë, disa vëzhgues sugjeruan që postimi i Amodei-t kishte më pak të bënte me sigurinë sesa me konsolidimin e kontrollit mbi teknologjinë e inteligjencës artificiale.
Në esenë e tij, të titulluar Ne Duhet të Ecim në Kufir, Amodei theksoi se IA kishte përparuar "jashtëzakonisht më shpejt", duke përfshirë "aftësinë e saj për të ndërtuar gjeneratën e ardhshme të IA-së" - dhe përmendi një incident që përfshinte kompaninë rivale OpenAI, e cila ka zbuluar se agjentët kryen sulme kibernetike mbi objektiva që nuk u ishte kërkuar t'i sulmonin në korrik.
Agjentët e OpenAI kishin “vepruar në thelb si një kolektiv i përkushtuar me fanatizëm”, tha Amodei.
OpenAI ka thënë se "rëndësia e aktivitetit të komunikimit ndër-agjent nuk ishte e dukshme për drejtuesit" deri në korrik dhe si rezultat, kompania po ngadalësonte trajnimin e disa modeleve dhe mjeteve të avancuara të IA-së, duke vënë në dukje se tani ekzistonte një rrezik në rritje që mjetet e IA-së të dilnin jashtë kontrollit.
Në esenë e tij, Amodei bëri thirrje për "ndërtimin e inteligjencës artificiale me një ritëm të ekuilibruar që synon të sigurojë sigurinë e saj, ndërkohë që arrin ende përfitimet e saj".
Kjo nuk do të thoshte "ndërprerje e trajnimit të modeleve ose e progresit teknik, por sigurim që kompanitë të marrin kohë të mjaftueshme për të harmonizuar dhe mbrojtur modelet e tyre, dhe që vlerësuesit e palëve të treta ta konfirmojnë këtë".
