Disponibilitatea pe scară largă a inteligenței artificiale (IA) generative, cum ar fi ChatGPT de la OpenAI sau Google Bard, a devenit în al doilea trimestru al anului 2023 o preocupare de prim rang pentru directorii responsabili pentru gestionarea riscurilor din organizații, după cum relevă analiștii Gartner.

„Intelligenția artificială generativă a fost al doilea cel mai frecvent risc identificat în cadrul sondajului nostru din al doilea trimestru, apărând pentru prima dată în top 10”, a spus Ran Xu, director de cercetare în cadrul Gartner Risk & Audit Practice. „Acest lucru reflectă atât creșterea rapidă a gradului de conștientizare a publicului și utilizarea instrumentelor IA generative, cât și amploarea potențialelor cazuri de utilizare și, prin urmare, riscurile potențiale pe care le generează aceste instrumente”, a completat Ran Xu.

În luna mai 2023, Gartner a chestionat 249 de directori seniori responsabili pentru gestionarea riscurilor din organizații pentru a oferi liderilor o viziune comparativă a 20 de riscuri emergente. Rapoartele Quarterly Emerging Risk Reports includ informații detaliate despre impactul posibil, intervalul de timp, nivelul de atenție și oportunitățile percepute pentru aceste riscuri.

Viabilitatea terților a fost principalul risc care a apărut rapid pe care organizațiile îl monitorizează cel mai îndeaproape în sondajul din trimestrul 2 al acestui an (vezi tabelul 1). Incertitudinea planificării financiare a fost al treilea risc, urmat de riscul de concentrare în cloud. Tensiunile comerciale din China au completat lista primelor cinci riscuri care au fost împărțite între problemele simptomatice ale volatilității macroeconomice și geopolitice generale actuale și preocupările legate de tehnologie.

Disponibilitatea pe scară largă a IA generative

Gartner a identificat anterior șase riscuri ale IA generative și patru domenii de reglementare a IA care sunt relevante pentru funcțiile care dau încredere. În ceea ce privește gestionarea riscului organizației, potrivit experților Gartner trebuie abordate trei aspecte principale:

Proprietatea intelectuală

   „Informațiile introduse într-un instrument de IA generativă pot deveni parte a setului său de instruire, ceea ce înseamnă că informațiile sensibile sau confidențiale ar putea ajunge în rezultate pentru alți utilizatori”, a spus Xu. „Mai mult, utilizarea rezultatelor acestor instrumente ar putea sfârși prin a încălca din neatenție drepturile de proprietate intelectuală ale altora care le-au folosit”, a detaliat el.

   Este important să educăm conducerea organizației cu privire la necesitatea prudenței și a transparenței în ceea ce privește utilizarea unor astfel de instrumente, astfel încât riscurile de proprietate intelectuală să poată fi gestionate în mod corespunzător, atât în ceea ce privește introducerea de date, cât și rezultatul obținut prin instrumentele de IA generativă.

Confidențialitatea datelor

Instrumentele de IA generativă pot partaja informații despre utilizator cu terțe părți, cum ar fi furnizorii sau furnizorii de servicii, fără notificare prealabilă. Acest lucru are potențialul de a încălca legea confidențialității în multe jurisdicții. De exemplu, reglementările au fost deja implementate în China și UE, cu propuneri de reglementări apărute în SUA, Canada, India și Marea Britanie, printre altele.

Securitatea cibernetică

„Hackerii testează mereu noi tehnologii pentru a găsi modalități de a le utiliza pentru propriile lor scopuri, iar inteligența artificială generativă nu este diferită”, a spus Xu. „Am văzut exemple de coduri malware și ransomware pe care IA generativă a fost păcălită să le producă, precum și atacuri de „prompt injections” care pot păcăli aceste instrumente pentru a oferi informații pe care nu ar trebui să le partajeze. Acest lucru duce la industrializarea atacurilor avansate de phishing”, a completat Xu.

Cauzele și implicațiile riscului de viabilitate a terților

„Inflația persistentă, care răspunde mai puțin la creșterea ratei dobânzii și care persistă o durată mai lungă decât se anticipa, a mărit presiunile pe costuri și pe marjă aplicate asupra terților”, a spus Xu. „Pe măsură ce băncile centrale cresc ratele dobânzilor pentru a lupta împotriva inflației, acest lucru duce, de asemenea, la un proces de înăsprire a creditelor, care poate forța furnizorii să suspende operațiunile sau să devină insolvabili pe măsură ce costurile îndatorării cresc”, a explicat Xu.

În cazul în care condițiile economice se deteriorează pe sacră largă, acest lucru poate cauza o scădere neașteptată a cererii care ar putea afecta viabilitatea furnizorilor sau capacitatea acestora de a furniza bunuri și servicii în timp util. Experții Gartner au identificat trei consecințe potențiale ale viabilității terților furnizori pe care managerii de risc trebuie să le monitorizeze pe măsură ce situația evoluează:

Pierderea de informații și materiale cheie: Dacă terții își măresc prețurile din cauza situației economice de ansamblu, există un risc clar de a pierde accesul la informații și materiale cheie, deoarece terții ar favoriza clienții dispuși să plătească prețuri mai mari.Ipotezele nerealiste de planificare financiară: Ipotezele de evoluție a costurilor vor deveni invalide pe măsură ce furnizorii cresc prețurile sau eșuează, necesitând costuri de schimbare și prețuri crescute pentru obținerea de bunuri și servicii.Provocările din afara lanțului de aprovizionare: Partenerii, cum ar fi furnizorii de administrarea serviciilor sau partenerii comerciali, creditorii sau furnizorii de tehnologie își pot înceta sau reduce operațiunile.

Despre Gartner for Legal, Risk & Compliance Leaders

Gartner for Legal, Risk & Compliance Leaders oferă sfaturi ale experților și instrumente pentru a ajuta liderii din departamentele juridice, de risc, de audit și de conformitate să gestioneze mai eficient un mediu de riscuri din ce în ce mai complex și să construiască funcții de ultimă generație. Informații suplimentare sunt disponibile la gartner.com/en/audit-risk  și gartner.com/en/legal-compliance. Urmăriți știrile și actualizările de pe LinkedIn și X. 

Despre Gartner

Gartner, Inc. (NYSE: IT) oferă o perspectivă obiectivă și utilă pentru directori și echipele lor. Îndrumările și instrumentele noastre de specialitate permit luarea unor decizii mai rapide și mai inteligente și o performanță mai bună în ceea ce privește prioritățile esențiale ale unei organizații. 

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.