O cümlədən bir sıra şirkətlər Microsoft і Facebook, və hətta Cənubi Kaliforniya Universitetinin tədqiqatçıları dərin saxtakarlıqla mübarizə aparmaq və onların sarı media və ümumiyyətlə dezinformasiya ilə yayılmasının qarşısını almaq üçün texnologiyalar hazırlayırlar. Lakin bir qrup alim yenə də onları aldada bilib.
San Dieqo Kaliforniya Universitetində kompüter alimləri qrupu xəbərdarlıq edib ki, hər bir video kadra “rəqabət edən nümunələr” adlanan giriş məlumatlarını daxil etməklə mövcud dərin saxta aşkarlama sistemlərini aldatmaq hələ də mümkündür. Alimlər öz tapıntılarını keçən ay onlayn keçirilən WACV 2021 Kompüter Görmə Konfransında təqdim ediblər.
Rəqabətli nümunələr süni intellekt sistemlərinin, məsələn, maşın öyrənməsi modellərinin səhv etməsinə səbəb olan bir qədər dəyişdirilmiş girişlərdir. Bundan əlavə, komanda hücumun videonu sıxışdırdıqdan sonra hələ də işlədiyini göstərdi. Yuxarıdakı videoda elm adamları göstərir ki, dərin saxtakarlıq detektoru olan XceptionNet onların rəqib videolarını "real" olaraq etiketləyir.
Bu detektorların əksəriyyəti videodakı üzləri izləməklə və kəsilmiş üz məlumatlarını analiz üçün neyron şəbəkəsinə göndərməklə işləyir. Daha sonra neyron şəbəkə bu məlumatları təhlil edəcək və adətən dərin saxtakarlıqlarda zəif təkrarlanan elementləri tapacaq, məsələn, titrəmə.
Rəqabətli nümunələr əlavə etməklə tədqiqatçılar bu dərin saxta detektorları aldada biləcəklərini və videoların real olduğuna inandıqlarını tapdılar.
Onlar məqalədə bildirirlər ki, “bu dərin saxta detektorlardan praktikada istifadə etmək üçün onları bu müdafiədən xəbərdar olan və onu qəsdən pozmağa çalışan adaptiv rəqibə qarşı qiymətləndirmək vacibdir. Biz göstəririk ki, təcavüzkar detektordan tam və ya qismən xəbərdar olarsa, müasir deepfake aşkarlama üsullarından asanlıqla yan keçmək olar”.
Bu alimlərin göstərdiyi kimi, dezinformasiya ilə mübarizə aparmaq üçün işlənib hazırlanan avtomatlaşdırma texnologiyaları hələlik bu vəzifəyə uyğun gəlməyə bilər.
Həmçinin oxuyun: