Un om de știință britanic cunoscut pentru contribuțiile sale la inteligența artificială a declarat pentru Sky News că sistemele puternice de inteligență artificială „nu pot fi controlate” și „produc deja rău”. Profesorul Stuart Russell a fost unul dintre cei peste 1.000 de experți care luna trecută au semnat o scrisoare deschisă cerând o pauză de șase luni în dezvoltarea unor sisteme chiar mai capabile decât GPT-4 recent lansat de OpenAI – succesorul chatbot-ului său online ChatGPT.
Profesorul Russell a spus despre scrisoare: „Am semnat-o pentru că cred că trebuie spus că nu înțelegem cum funcționează aceste sisteme mai puternice de inteligență artificială. Se știe de ce sunt capabili. Și asta înseamnă că nu îi putem controla, nu îi putem determina să se comporte singuri.” El a spus că „oamenii erau îngrijorați de dezinformare, de părtinirile rasiale și de gen în rezultatele acestor sisteme”.
El a spus că una dintre cele mai mari preocupări a fost dezinformarea și falsurile profunde, deși dezinformarea există de mult timp în scopuri de „propagandă”, diferența acum este că, folosind Sophy Ridge ca exemplu, el ar putea cere GPT-4 să încerce să o „manipuleze”, astfel încât să fie „mai puțin susținătoare pentru Ucraina”.
El a spus că tehnologia va citi prezența lui Ridge pe rețelele de socializare și ceea ce a spus sau scris vreodată și apoi va desfășura o campanie graduală pentru a-și „ajusta” fluxul de știri.
Profesorul Russell i-a spus lui Ridge: „Deosebirea aici este că acum pot cere GPT-4 să citească totul despre prezența Sophy Ridge în rețelele sociale, tot ce a spus sau scris Sophy Ridge vreodată, totul despre prietenii lui Sophy Ridge și apoi doar să înceapă o campanie treptat, ajustând fluxul unei persoane de știri, poate trimițând ocazional niște știri false în fluxul acesteia, astfel încât să susțină puțin mai puțin Ucraina”.
„Va fi foarte ușor de făcut. Și lucrul cu adevărat înfricoșător este că am putea face asta unui milion de oameni diferiți înainte de prânz.” Expertul, care este profesor de informatică la Universitatea din California, Berkeley, a avertizat despre un impact uriaș cu aceste sisteme în mai rău prin manipularea oamenilor în moduri despre care nici măcar nu își dau seama că se întâmplă”.
