Trendul caricaturilor create de inteligența artificială (IA), care prezintă tot ce știe un chatbot despre o persoană într-o imagine colorată, poate reprezenta un risc serios pentru securitate, potrivit experților în securitate cibernetică. Utilizatorii încarcă o fotografie cu ei înșiși, împreună cu logo-ul companiei sau detalii despre rolul lor, și solicită ChatGPT de la OpenAI să creeze o caricatură a lor și a meseriei lor, folosind informațiile pe care chatbotul le deține despre ei, relatează Euronews, preluat de G4media.
Experții în securitate cibernetică au declarat pentru Euronews Next că provocările de pe rețelele sociale, precum caricaturile AI, pot oferi fraudatorilor o multe informații valoroase. O singură imagine, asociată cu detalii personale, poate dezvălui mai multe informații decât își dau seama utilizatorii.
„Le faci treaba fraudatorilor, oferindu-le o reprezentare vizuală a cine ești”, a declarat Bob Long, vicepreședinte al companiei de autentificare a vârstei Daon.
Formularea în sine ar trebui să ridice semne de întrebare, a susținut el, deoarece „pare că a fost inițiată intenționat de un fraudator care dorea să-și ușureze munca”.
Când un utilizator încarcă o imagine într-un chatbot AI, sistemul procesează imaginea pentru a extrage date, cum ar fi emoția persoanei, mediul înconjurător sau informații care ar putea dezvălui locația acesteia, potrivit consultantului în securitate cibernetică Jake Moore. Aceste informații pot fi apoi stocate pentru o perioadă de timp necunoscută.
Long a spus că imaginile colectate de la utilizatori pot fi utilizate și păstrate pentru a antrena generatoarele de imagini AI ca parte a seturilor lor de date.
O încălcare a securității datelor la o companie precum OpenAI ar putea însemna că datele sensibile, cum ar fi imaginile încărcate și informațiile personale colectate de chatbot, ar putea ajunge în mâinile unor persoane rău intenționate care le-ar putea exploata.
În mâinile greșite, o singură imagine de înaltă rezoluție ar putea fi utilizată pentru a crea conturi false pe rețelele sociale sau deepfake-uri realiste generate de IA, care ar putea fi folosite pentru a comite o înșelătorie, potrivit Charlotte Wilson, șefa departamentului de întreprinderi la Check Point, o companie israeliană de securitate cibernetică.
„Selfie-urile ajută infractorii să treacă de la înșelătorii generice la impersonări personalizate, foarte convingătoare”, a spus ea.
