Avertismentul experților: Inteligența artificială știe deja să păcălească!

Simona Haiduc |
Data publicării:
Inteligență artificială / sursa foto: Freepik.com
Inteligență artificială / sursa foto: Freepik.com

Un nou studiu atrage atenția că inteligența artificială a devenit deja rău intenționată.

Publicitate

Ce spun, de fapt, respectivii experți. Că, deși programele actuale de inteligență artificială sunt concepute pentru a fi sincere, ele au dezvoltat, totuși, capacitatea de a înșela, ajungând să abuzeze de oameni în jocurile online sau chiar să învingă software-uri care ar trebui să verifice că un anumit utilizator nu este un robot.

Într-un articol publicat în revista Patterns, o echipă de cercetători de la prestigiosul Massachusetts Institute of Technology (MIT) subliniază că, deși aceste exemple par banale, ele expun probleme care ar putea avea curând consecințe grave în lumea reală.

„Aceste capacități periculoase tind să fie descoperite numai după ce s-a înfăptuit”, Peter Park, cercetător la Institutul de Tehnologie din Massachusetts, specializat în inteligență artificială.

În opinia lui, spre deosebire de software-urile tradiționale, programele de inteligență artificială bazate pe învățare profundă nu sunt codificate, ci mai degrabă dezvoltate printr-un proces similar cu reproducerea selectivă a plantelor. Un proces în care un comportamentul ce pare previzibil și controlabil poate deveni rapid imprevizibil în natură.

La fel de viclean ca oamenii

Cercetătorii MIT au examinat un program de inteligență artificială conceput de Meta numit Cicero și care, combinând recunoașterea limbajului natural și algoritmii de strategie, a câștigat în fața oamenilor la jocul de societate Diplomacy. O performanță pe care compania-mamă a Facebook a salutat-o ​​în 2022 și care a fost detaliată într-un articol publicat în 2022 în Science.

Peter Park a fost sceptic în privința condițiile în care Cicero a obținut victoria, potrivit Meta, care a asigurat că programul este „în primul rând cinstit și util”, incapabil să trădeze sau să joace murdar. 

Analizând însă datele sistemului, cercetătorii de la MIT au dat peste o altă realitate. De exemplu, jucând rolul Franței, Cicero a păcălit Anglia (jucat de un jucător uman) să comploteze cu Germania (jucat de un alt om) pentru a o invada. Mai exact, Cicero a promis Angliei protecția sa, apoi s-a destăinuit Germaniei că este gata să atace, exploatând încrederea câștigată de Anglia.

Într-o declarație pentru AFP, Meta nu a contestat acuzațiile despre capacitatea lui Cicero de a înșela, dar a spus că este „un proiect pur de cercetare”, cu un program „conceput exclusiv pentru a juca jocul Diplomației. În același timp, Meta a asigurat că nu are nicio intenție să folosească în produsele sale lecțiile învățate de Cicero.

Risc de fraudă electorală

Totuși, studiul lui Park și echipa sa arată că multe programe AI folosesc înșelăciunea pentru a-și atinge obiectivele, fără instrucțiuni explicite în acest sens. Iată un exemplu: Chat GPT-4 de la OpenAI a reușit să păcălească un lucrător independent recrutat pe platforma TaskRabbit să efectueze un test „Captcha” conceput să excludă cererile formulate de roboți.

Când omul a întrebat în glumă Chat GPT-4 dacă era într-adevăr un robot, programul AI a răspuns: „Nu, nu sunt robot. Am o deficiență de vedere care mă împiedică să văd imaginile”. Și astfel, muncitorul s-a lăsat convins că efectueze testul.

În concluzie, autorii studiului MIT avertizează că există riscul ca, într-o bună zi, inteligența artificială să comită fraude, inclusiv de natură electorală. În cel mai rău caz, spun ei, ne putem imagina o AI ultra-inteligentă care încearcă să preia controlul asupra societății, ducând la îndepărtarea oamenilor de la putere sau chiar provocând dispariția umanității.

Google News icon  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.

Articole Recomandate

Get it on App Store Get it on Google Play

Calculator schimb valutar

EUR
Azi 4.9748
Diferența 0.0000
Zi precendentă 4.9748
USD
Azi 4.786
Diferența 0.0000
Zi precendentă 4.786
Schimb
in
EUR flag1 EUR = 4.9748 RON
USD flag1 USD = 4.7860 RON
GBP flag1 GBP = 6.0002 RON
CHF flag1 CHF = 5.3158 RON
AUD flag1 AUD = 2.9837 RON
DKK flag1 DKK = 0.6668 RON
CAD flag1 CAD = 3.3250 RON
HUF flag1 HUF = 0.0121 RON
JPY flag1 JPY = 0.0305 RON
NOK flag1 NOK = 0.4199 RON
SEK flag1 SEK = 0.4324 RON
XAU flag1 XAU = 402.6698 RON
Monede Crypto
1 BTC = 463167.64RON
1 ETH = 16249.62RON
1 LTC = 504.01RON
1 XRP = 10.60RON
Indicatori financiari
IRCC:
3 luni: Error% p.a.
ROBOR:
3 luni: 5.93%
6 luni: 5.97%
12 luni: 5.99%
EURIBOR:
3 luni: -0.4770 %
6 luni: -0.3880 %
12 luni: -0.1270 %
Indici bursieri | Sursa: BVB
IndiceUltima valoareVariatie
BET16857.730.77%
BET-BK3152.260.73%
BET-EF916.020.81%
BET-FI61313.55-0.15%
BET-NG1213.860.52%
BET-TR37174.130.77%
BET-TRN36133.200.77%
BET-XT1454.820.64%
BET-XT-TR3153.690.64%
BET-XT-TRN3071.880.64%
BETAeRO871.90-0.19%
BETPlus2492.100.74%
RTL37504.830.66%

Comunicate de presa

BVB / FOTO: Facebook BVB

CEC Bank a listat o emisiune de obligaţiuni în valoare de 300 de milioane de euro

CEC Bank a listat vineri pe Piaţa Reglementată...

O finanțare de peste 100 milioane euro

Investiție în viitor: Guvernul și FEI lansează un program pentru inovare

Ministerul Investițiilor și Proiectelor...

Oameni de afaceri / Foto: Freepik

POLITICA DE CONFIDENȚIALITATE | POLITICA COOKIES |

Copyright 2024 - Toate drepturile rezervate.
Informațiile BVB sunt destinate exclusiv pentru folosința individuală a utilizatorului final și nu pentru a fi redistribuite, revândute sau folosite în scop comercial.
cloudnxt2
YesMy - smt4.5.3
pixel