Singapur wysyła Gemmę do telefonu, by wykrywać rozmowy oszustów

Google DeepMind i singapurski GovTech rozwijają lekki model Gemma, który ma rozpoznawać rozmowy oszustów bezpośrednio na telefonie. Kluczowe jest przetwarzanie lokalne: według DeepMind dane z prywatnych czatów nie mają trafiać do chmury.

Model analizuje przebieg rozmowy bez wysyłania czatu do chmury

W ramach współpracy Gemma jest dostrajana do wykrywania oszustw konwersacyjnych. Model ma wychwycić manipulację w prywatnym czacie, gdy przestępca stopniowo nakłania ofiarę do płatności lub ujawnienia poufnych danych. Komunikat opisuje prace nad modelem, a nie gotową ochronę dostępną na szeroką skalę.

Podczas weryfikacji strona źródłowa udostępniała głównie metadane i krótki opis. Nie podaje wersji Gemmy, obsługiwanych aplikacji, terminu wdrożenia ani wyników testów, więc nie można uczciwie ocenić skuteczności ani zasięgu rozwiązania.

Inference na urządzeniu dociera tam, gdzie moderacja chmurowa nie widzi

Dla GovTech najważniejsze jest to, że ochrona może śledzić przebieg rozmowy bez tworzenia centralnej kopii jej treści. Daje to możliwość interwencji także w prywatnych komunikatorach, gdzie analiza po stronie serwera zderza się z szyfrowaniem i zaufaniem użytkowników.

Skala problemu jest konkretna. Singapurska policja odnotowała w 2025 roku 37 308 oszustw i straty rzędu 913,1 mln dolarów singapurskich. W 81,8 % przypadków ofiary same wykonały przelew pod wpływem manipulacji. Ostrzeżenie przed płatnością może wtedy pomóc bardziej niż późniejsza blokada konta.

Prywatność nie rozwiązuje problemu fałszywych alarmów i uników

Lokalne działanie ogranicza wyciek treści, lecz nic nie mówi o trafności. Nadwrażliwy model będzie przerywał zwykłe rozmowy, a zbyt ostrożny przeoczy nowe scenariusze. Oszuści mogą też zmieniać słownictwo, przenosić część kontaktu do rozmowy głosowej lub uczyć ofiary ignorowania ostrzeżeń.

Nie wiadomo również, kto będzie aktualizował model, jak błędy zostaną zmierzone w różnych językach i czy użytkownik sprawdzi podstawę decyzji. Bez tych informacji to obiecujący kierunek ochrony, a nie zweryfikowany produkt.

Wynik rozstrzygną zwykłe czaty i jasne zasady interwencji

Najważniejsze będą opublikowane wskaźniki fałszywych alarmów i wykrytych oszustw, obsługa języków używanych w Singapurze oraz dokładny sposób wyświetlania ostrzeżeń. Trzeba też potwierdzić, że tekst pozostaje na urządzeniu podczas aktualizacji modelu i zgłaszania incydentu.

Wartość projektu ujawni się dopiero w praktyce: gdy użytkownik po ostrzeżeniu zatrzyma przelew i nie wyłączy ochrony po kilku pomyłkach. Elegancka technologia nie zatrzyma oszusta, jeśli nie zmieni zachowania ofiary.

Werdykt Lilith

Gemma może stanąć obok ofiary jeszcze przed naciśnięciem przycisku Wyślij. Liczy się to, czy ostrzeżenie przerwie manipulację, zamiast po trzecim fałszywym alarmie zmienić się w tapetę.