Inteligența artificială (AI) – provocări și pericole

ChatGPT, Bing AI, Bard, Amazon Q si alții sunt asistenți de inteligență artificială (AI) generativă sau Generative AI. În ciuda faptului ca au început să fie utilizați în nenumărate domenii de activitate, pentru obținerea de informații, generarea de imagini, redactarea textelor sau a temelor copiilor, asistenții AI prezintă o serie de pericole atât pentru utilizatori, cât și pentru beneficiari.

Limitările asistenților AI

1. Cunoștințe limitate: Asistenţii AI sunt antrenaţi pe un set de date ce ajung doar până la un anumit punct în timp. De aceea, nu au capacitatea de a furniza informații în timp real sau actualizări dincolo de acea dată.
2. Răspunsuri incorecte sau învechite: Neavând capacitatea de a verifica informațiile, asistenţii AI pot oferi răspunsuri bazate pe concepții sau informaţii eronate pe care au fost antrenaţi.
3. Tendința de a genera răspunsuri plauzibile, dar incorecte: Asistenţii AI pot genera răspunsuri care par plauzibile, dar sunt incorecte sau fără sens, neavând capacitatea de a înțelege conceptul de adevăr. În plus, nu îşi asumă responsabilitatea pentru informaţiile oferite.
4. Răspunsuri părtinitoare, cu potențial ofensator: Modelele AI pot produce răspunsuri părtinitoare sau sensibile, nepotrivite sau ofensatoare, ce contravin normelor etice, reflectând datele la care au avut acces în timpul antrenamentelor.
5. Lipsa înțelegerii intenției sau scopului: Asistenţii AI nu au capacitatea de a înțelege intenția utilizatorului sau scopul din spatele unei întrebări. Generează răspunsuri bazate pe modelele învățate în timpul antrenamentului, care nu se aliniază întotdeauna cu așteptările utilizatorului.
6. Nu sunt un substitut pentru consultanță profesională: Asistenţii AI nu au capacitatea de a oferi sfaturi profesionale, informaţii ştiinţifice sau de a face sinteze şi analize de date complexe. Nu ar trebui utilizați ca sursă exclusivă pentru decizii importante, în special în domenii care necesită expertiză sau cunoștințe specializate.

La ce trebuie să fim atenți atunci când citim un text ce pare a fi redactat de un asistent AI

• Verificarea informaţiilor: Asistenții AI pot genera răspunsuri care par coerente, dar nu garantează exactitatea, corectitutdinea sau actualitatea informațiilor.
• Inteligibilitatea şi coerenţa textului: Dacă un text pare confuz sau neclar, cu topică sau expresii nefamilare, este necesar să devenim circumspecţi şi să verificăm dacă informaţiile au fost preluate fără a fi analizate, din alte surse.
• Existența surselor citate: chiar dacă textul generat pare unul ştiinţific, datele pot fi inventate sau compilate din surse care nu sunt de încredere. Întotdeauna verificaţi că sursele unui text sunt reale.