SI Google podsłucha nasze rozmowy i ostrzeże przed oszustami

Proaktywna ochrona przez SI

Podczas wczorajszej inauguracji Google I/O słowo “sztuczna inteligencja” padało w zasadzie bezustannie. W zakresie cyberbezpieczeństwa uwagę zwróciła możliwość automatycznego rozpoznawania vishingu - prób dokonywania oszustw za pośrednictwem połączeń telefonicznych.

Vishing pozostaje jedną z najskuteczniejszych metod cyberprzestępców. Liczne, skutkujące setkami tysięcy ukradzionych złotych, oszustwa najczęściej dokonywane są właśnie po zadzwonieniu do potencjalnej ofiary. Google chce, aby zautomatyzować proces rozpoznawania vishingu przez bieżącą, lokalną analizę treści rozmowy. Jeśli SI rozpozna na przykład żądanie rozmówcy, by podać mu wrażliwe dane, które mogą służyć do oszustw, wówczas użytkownik zostanie ostrzeżony.

Lokalne SI ostrzeże przed oszustwami

Mechanizm proaktywnego rozpoznawania oszustw ma działać dzięki Gemini Nano. Jest to wariant dużego modelu językowego Google, o najbardziej ograniczonych i ściśle wyspecjalizowanych możliwościach. Zaletą Nano, także w przypadku bieżącego przetwarzania treści rozmów telefonicznych, jest to, że LLM może działać w całość lokalnie, na urządzeniu użytkownika.

Oznacza to, że treść rozmów nie musi być nagrywana, ale też nie musi być analizowana na zewnętrznych serwerach Google. Wariant Gemini Nano, który ma chronić nas przed vishingiem, ma być wytrenowany w rozpoznawaniu np. żądań przelewu środków, dokonywania płatności z użyciem kart przedpłaconych czy podania wrażliwych danych osobowych. Jako przykład na rynku amerykańskim Google podaje numer ubezpieczenia społecznego, u nas może to być na przykład PESEL. Nano ma nas także przestrzec przed podawaniem kodów PIN czy haseł do usług internetowych.

Gdy oprogramowanie rozpozna odpowiedni wzorzec w takcie trwającej rozmowy telefonicznej, wówczas wyświetlone zostanie odpowiednie powiadomienie - ostrzeżenie, że możemy mieć do czynienia z próbą oszustwa. Podany zostanie nawet domniemany rodzaj oszustwa, dzięki czemu będziemy mogli zweryfikować, czy SI w danym przypadku może mieć rację, czy też nie.

Co z prywatnością?

Zapowiedziana przez Google nowość nadchodzi zaledwie kilka dni po tym, jak opisywaliśmy nowe rozszerzenie Copilota, dużego modelu językowego Microsoftu, który także chce przetwarzać dane na naszych smartfonach. Już wtedy sygnalizowaliśmy, że jest to w zasadzie nowy rodzaj zagrożeń dla naszej prywatności - ryzyko ze strony maszynowego przetwarzania przez sztuczną inteligencję. Zaletą Nano jest to, ze działa on lokalnie, bez konieczności wysyłania treści rozmów na serwery Google. Nie trzeba tego jednak robić, by na podstawie przesłuchiwania rozmów przez SI doskonalić np. algorytmy serwujące nam treści reklamowe.

Google jak dotąd nie poinformowało, kiedy możemy spodziewać się implementacji nowego rodzaju ochrony w Androidzie. Korporacja zadeklarowała jednak, że do pierwszych użytkowników ma ona trafić jeszcze w tym roku.