hit.ro  »  IT  »  Inteligenta Artificiala  »  Patru riscuri de confidentialitate in utilizarea ChatGPT pentru companii

Patru riscuri de confidentialitate in utilizarea ChatGPT pentru companii

calendar_month 20 Oct 2023, 13:55


Astazi multa lume foloseste modele de limbaj bazate pe retele neuronale, cum ar fi ChatGPT, pentru activitatile profesionale.

Un sondaj Kaspersky a aratat ca 11% dintre respondenti au folosit chatbots, iar aproape 30% cred in potentialul lor de a inlocui unele locuri de munca in viitor.

Alte sondaje indica faptul ca 50% dintre angajatii de birou belgieni si 65% din Marea Britanie se bazeaza pe ChatGPT. Mai mult, frecventa termenului de cautare „ChatGPT” in Google Trends sugereaza o utilizare pronuntata in timpul saptamanii, probabil legata de sarcinile legate de serviciu.

Cu toate acestea, integrarea tot mai mare a chatbot-urilor la locul de munca ridica o intrebare cruciala: se pot incredinta date corporative sensibile unui chatbot? Cercetatorii Kaspersky au identificat patru riscuri cheie asociate cu utilizarea ChatGPT in scopuri comerciale.

Desi chatbot-urile bazate pe LLM sunt operate de specialisti in tehnologie, nici ei nu sunt imuni la hacking sau scurgeri accidentale. De exemplu, a avut loc un incident in care utilizatorii ChatGPT au putut sa vada mesaje din istoricul de chat al altor utilizatori.

Teoretic, chat-urile cu chatbot-uri ar putea fi folosite pentru a antrena viitoare modele. Avand in vedere ca LLM-urile sunt susceptibile la „memorare neintentionata”, in care isi amintesc secvente unice, cum ar fi numerele de telefon, care nu imbunatatesc calitatea modelului, dar prezinta riscuri pentru confidentialitate, orice date din materialul de instruire pot fi accesate involuntar sau intentionat de alti utilizatori din model.

„Malicious client” - Aceasta este o mare ingrijorare in cazul locurilor de munca in care serviciile oficiale precum ChatGPT sunt blocate. Utilizatorii pot recurge la alternative neoficiale, cum ar fi programe, site-uri web sau roboti de mesagerie si pot descarca programe malware deghizate in client sau aplicatie inexistenta.

Atacatorii pot intra in conturile angajatilor, accesand datele lor, prin atacuri de tip phishing sau prin completarea acreditarilor. In plus, Kaspersky Digital Footprint Intelligence gaseste in mod regulat postari pe forumuri dark web care vand acces la conturile chatbot.



Un exemplu de postare dark web care ofera acces la ChatGPT si contul corporativ Synthesia pentru 40 USD

Scurgerile de date raman, prin urmare, o problema majora de confidentialitate atat pentru utilizatori, cat si pentru companii atunci cand folosesc chatbots. Dezvoltatorii responsabili descriu modul in care datele sunt utilizate pentru antrenarea modelelor in politicile lor de confidentialitate. Analiza Kaspersky a chatbot-urilor populare, inclusiv ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard si Genius App de Alloy Studios, arata ca in sectorul B2B exista standarde de securitate si confidentialitate mai ridicate, avand in vedere riscurile mai mari generate de scurgerile de informatii corporative.

In consecinta, termenii si conditiile de utilizare, colectare, stocare si procesare a datelor sunt mai concentrate pe protejarea datelor, in comparatie cu sectorul B2C. Solutiile B2B din acest studiu, de obicei, nu salveaza automat istoricul de chat si, in unele cazuri, nu sunt trimise date catre serverele companiei, deoarece chatbot-ul opereaza local in reteaua clientului.
Pentru a afla mai multe despre riscurile de confidentialitate ale utilizarii chatbot-urilor, vizitati Securelist.com.



Pentru a beneficia in continuare de utilizarea chatbot-urilor si pentru a ramane in siguranta, expertii Kaspersky recomanda:

Utilizati parole puternice si unice: creati parole complexe pentru fiecare dintre conturile dumneavoastra si evitati sa utilizati informatii usor de ghicit, cum ar fi zilele de nastere sau numele.

Atentie la phishing: fiti atenti la e-mailurile, mesajele sau apelurile nesolicitate care va solicita informatii personale. Verificati identitatea expeditorului inainte de a partaja orice date sensibile.

Educati-va angajatii: angajatii trebuie sa fie informati cu privire la cele mai recente amenintari online si cele mai bune practici pentru a ramane in siguranta in mediul online.

Pastrati software-ul actualizat: actualizati regulat sistemul de operare, aplicatiile si programele antivirus. Aceste actualizari contin adesea patch-uri de securitate.

Limitati partajarea informatiilor corporative: Fiti atenti la partajarea informatiilor personale pe retelele sociale sau forumurile publice. Oferiti-le doar atunci cand este absolut necesar.

Verificati adresele URL si site-urile web: verificati de doua ori adresa URL a site-urilor web pe care le vizitati, mai ales inainte de a introduce datele de conectare sau de a face achizitii.

Utilizati solutia de securitate corporativa: pentru a preveni angajatii in ceea ce priveste utilizarea in mod independent a chatbot-urilor care nu sunt de incredere in scopuri profesionale, puteti utiliza o solutie de securitate cu analiza a serviciilor cloud. Printre caracteristicile sale, solutia Kaspersky Endpoint Security Cloud include Cloud Discovery pentru gestionarea serviciilor cloud si evaluarea riscurilor utilizarii acestora.





 

Sondaj

Care credeti ca este cel mai asteptat film din 2024?