Noua funcție va fi opțională și va folosi un model de învățare automată care rulează pe telefon, pentru a identifica mesajele de pe WhatsApp care ar putea ascunde tentative de fraudă.
Cu peste trei miliarde de utilizatori activi în fiecare lună la nivel mondial, WhatsApp poate deveni un teren propice pentru escrocherii, deoarece infractorii își schimbă constant metodele, notează Khaleej Times. Pentru a-și proteja utilizatorii, aplicația deținută de Meta a început să testeze o nouă funcție care îi va avertiza cu privire la mesajele care ar putea reprezenta tentative de fraudă și îi va ajuta să recunoască încercările de manipulare.
Funcția, numită Scam Alert, este opțională și folosește un model de învățare automată care funcționează pe dispozitivul utilizatorului pentru a identifica mesajele de pe WhatsApp care ar putea fi frauduloase, a transmis Meta. Instrumentul este testat momentan la scară limitată, înainte de a deveni disponibil pentru toți utilizatorii WhatsApp.
La sfârșitul lunii iunie, WhatsApp a anunțat că utilizatorii nu vor mai trebui să își comunice numerele de telefon pentru a discuta cu alte persoane. În schimb, ei vor putea alege nume de utilizator unice, pe care să le distribuie altor persoane. Compania a precizat că această schimbare are scopul de a proteja confidențialitatea numărului de telefon. Decizia a ridicat însă și întrebări legate de fraude. Mulți s-au întrebat dacă escrocii ar putea folosi numele de utilizator pentru a se da drept alte persoane, branduri sau figuri publice. Pentru a reduce aceste riscuri, platforma dezvoltă în prezent funcția Scam Alert.
Ce este Scam Alert?
Scam Alert este un nou instrument WhatsApp aflat în faza de testare. Acesta are scopul de a ajuta utilizatorii să identifice posibile tentative de fraudă pe platformă.
Meta a precizat că progresele recente în domeniul modelelor de învățare automată permit clasificarea precisă a textelor pe dispozitivele mobile.
Cum funcționează?
După ce utilizatorul activează funcția, Scam Alert descarcă pe dispozitiv un model de învățare automată. Acesta analizează mesajele primite de la persoane care nu se află în lista de contacte și verifică dacă acestea corespund unor tipare cunoscute de fraudă.
Modelul este antrenat pe baza tiparelor identificate în conversații frauduloase, despre care utilizatorii au trimis rapoarte către Meta. Sistemul analizează structura conversației și anumite elemente de limbaj pentru a estima probabilitatea ca mesajul să reprezinte o tentativă de fraudă.
„Niciun conținut nu este raportat automat către WhatsApp, Meta sau către o terță parte”, a transmis Meta.
Ce se întâmplă dacă sistemul detectează o posibilă fraudă?
Dacă modelul identifică un mesaj ca fiind o posibilă tentativă de fraudă, utilizatorul vede un avertisment în conversație. Cealaltă persoană nu vede acest avertisment. Utilizatorul poate apoi să aleagă ce face mai departe. Poate bloca persoana respectivă, poate raporta conversația sau poate continua discuția.
Ce se întâmplă dacă utilizatorul consideră mesajul sigur?
Dacă utilizatorul consideră că sistemul a semnalat greșit conversația, poate marca acel chat drept sigur. Avertismentul va dispărea, iar Scam Alert nu va mai semnala acea conversație în viitor.
Utilizatorul care declară că are încredere într-o conversație poate alege și să trimită către WhatsApp ultimele cinci mesaje primite, pentru a ajuta compania să îmbunătățească precizia funcției.
Sistemul raportează automat tentativele de fraudă?
Nu. Meta a precizat că Scam Alert nu va trimite automat rapoarte.
„WhatsApp nu poate transmite datele unui utilizator fără o acțiune din partea acestuia. Conținutul mesajelor sau informația că sistemul a detectat o posibilă fraudă ajung pe serverele noastre doar dacă utilizatorul alege în mod explicit să raporteze situația. Acest lucru respectă modul în care funcționează în prezent sistemul de raportare pe WhatsApp”, a transmis compania.
Utilizatorii pot dezactiva funcția?
Da. Scam Alert este un instrument pe care utilizatorul îl controlează și pe care îl poate activa sau dezactiva oricând.
Modelul de inteligență artificială și datele analizate rămân pe dispozitiv?
Da. Modelul și datele mesajelor pe care le analizează rămân pe dispozitivul utilizatorului.
„Toată analiza are loc pe dispozitiv, iar conținutul mesajelor nu părăsește telefonul pentru a fi clasificat”, a precizat Meta.
Când va fi disponibilă funcția pentru toți utilizatorii WhatsApp?
Scam Alert este testată în prezent la scară limitată, în versiunea Beta a aplicației. Meta nu a anunțat deocamdată data la care funcția va deveni disponibilă pentru toți utilizatorii.
„Escrocii își vor adapta în continuare metodele. Și noi vom face același lucru pentru a rămâne cu un pas înaintea lor. Primim cu interes feedback din partea utilizatorilor, a cercetătorilor în domeniul securității și a comunității de specialiști în securitate”, a transmis Meta.
