Deepfake’i w wideokonferencjach stają się realnym zagrożeniem dla firm. Zoom odpowiada na nie nową funkcją weryfikacji użytkowników, stworzoną we współpracy z firmą World.
Platforma wideokonferencyjna Zoom ogłosiła współpracę z firmą World, założoną przez Sama Altmana, twórcę OpenAI. Cel? Upewnić się, że osoby uczestniczące w spotkaniach online są rzeczywistymi ludźmi, a nie generowanymi przez AI deepfake’ami.
To reakcja na rosnące zagrożenie, które zaczyna mieć bardzo realne konsekwencje finansowe dla firm na całym świecie.
Deepfake na wideokonferencji – realne straty i rosnące zagrożenie
Problem deepfake’ów w biznesie nie jest już teoretyczny.
W 2024 roku firma inżynieryjna Arup straciła około 25 milionów dolarów, gdy pracownik podczas pozornie zwykłego spotkania wideo zatwierdził przelewy finansowe. Jak się później okazało — wszyscy uczestnicy rozmowy, poza nim, byli wygenerowani przez AI.
Podobne incydenty odnotowano także w 2025 roku w Singapurze, a według raportów branżowych:
- straty związane z deepfake’ami przekroczyły 200 mln dolarów w jednym kwartale
- średnia strata na incydent wynosi ponad 500 tys. dolarów
Jak działa weryfikacja „Verified Human” w Zoom?
Nowa funkcja opiera się na technologii World ID oraz rozwiązaniu Deep Face.
Proces weryfikacji użytkownika obejmuje trzy elementy:
- porównanie obrazu zapisanego podczas rejestracji w systemie,
- skan twarzy w czasie rzeczywistym z urządzenia użytkownika,
- analiza obrazu z kamery podczas spotkania.
Dopiero zgodność wszystkich trzech elementów pozwala oznaczyć uczestnika jako zweryfikowanego. Wówczas przy jego nazwie pojawia się specjalna etykieta „Verified Human”.
Co ważne host może wymagać weryfikacji przed dołączeniem do spotkania oraz uczestnicy mogą zażądać weryfikacji innych osób w trakcie rozmowy.
Dlaczego dotychczasowe metody wykrywania deepfake’ów zawodzą?
Dotychczasowe systemy wykrywania deepfake’ów opierały się głównie na analizie pojedynczych klatek wideo i wyszukiwaniu anomalii.
Problem w tym, że modele generujące obraz stają się coraz bardziej realistyczne. Przez to artefakty wizualne są coraz trudniejsze do wykrycia i analiza „frame-by-frame” przestaje być skuteczna.
Nowe podejście World i Zoom stawia więc na weryfikację tożsamości, a nie próbę wykrywania fałszu.
World buduje globalny system weryfikacji ludzi w erze AI
Firma World rozwija swoje rozwiązania znacznie szerzej niż tylko dla Zooma.
W ostatnim czasie nawiązała współpracę m.in. z Tinderem i Visą.
Celem jest stworzenie uniwersalnego systemu potwierdzania, że za działaniami online stoją realni ludzie, a nie boty czy autonomiczne systemy AI.
Niedawno firma zaprezentowała także technologię weryfikującą użytkowników w procesach zakupowych — aby upewnić się, że transakcje nie są realizowane przez automatyczne agenty AI.
Nowy standard bezpieczeństwa spotkań online?
Integracja Zooma z World wpisuje się w szerszy trend budowania „zaufania cyfrowego” w świecie, gdzie granica między człowiekiem a AI staje się coraz bardziej rozmyta.
Nowe rozwiązanie może ograniczyć ryzyko oszustw finansowych oraz zwiększyć bezpieczeństwo komunikacji biznesowej. A także dodatkowo stać się standardem w korporacyjnych środowiskach pracy.
Jednocześnie rodzi to jednak również pytania o prywatność i zakres gromadzonych danych biometrycznych.
Niemniej jedno jest pewne — era anonimowych wideospotkań właśnie się kończy.
Foto: Zoom.