Алдамшы әлем: дипфейктер алдау құралына қалай айналады

Жасанды интеллекттің адамның тыныс-тіршілігіне енгені соншалықты, бүгінде ол ескі фотосуреттерге жан бітіріп, адамның дауысын салып, айна-қатесіз адамның шынайы бейнесін жасайды. Алайда, бәрін тамсандырып жатқан сол технология алаяқтардың қолындағы жаңа қаруға айналып отыр.

Fingramota.kz жалған бейнені қалай ажыратып-тануға, өзіңізді қалай қорғауға болатындығы және қазір желіде көргендердің бәріне сене бермеу неге маңызды екенін айтып береді.

Дипфейк деген не

Дипфейк («deep fake» деген сөздер) — бұл нейрожелілердің көмегімен шынайы адамдардың бейнесін салатын, жалған бейне және аудиожазбалар жасауға мүмкіндік беретін технология.

Жүйе алдымен адамның сыртқы келбеті мен дауысын талдайды, содан кейін сол адамның дауысымен сөйлейтін, әрекеттер жасайтын жаңа бейнежазба жасайды, ал оның шынайы өмірінде мұндай оқиғалар ешқашан болмаған.

Егер бұған дейін осындай бейнежазбалар жасау үшін білікті мамандар мен қуатты компьютерлер қажет болса, қазір смартфон мен тегін қосымша жеткілікті.

Қай кездерде дипфейк алдау құралына айналады

«Бухгалтер, шұғыл ақша аудар!»

Бір халықаралық компанияда бухгалтерге «директор» бейне қоңырау шалады, ол шұғыл түрде «мәмілеге» ақша аударуды талап етеді. Бейне қоңыраудағы адамның дауысы мен бет әлпеті директордан айнымайды.

10 минуттан кейін компания 250 мың еуродан айырылған. Кейін белгілі болғандай, бұл — алаяқтардың қолынан жасалған дипфейк болып шыққан.

«Анашым, көмектес!»

Жақында Алматы қаласының тұрғыны «ұлының» оған қоңырау шалғанын айтты — дауысы таныс, «ұлы» қорқыныштан дірілдеп: «Анашым, мен қиын жағдайға душар болдым, тез арада 200 мың теңге аударшы», - деп өтінеді. Әйел банкке жүгіруге ұмтыла беріп, дер кезінде олардың отбасында код сөзі бар екенін есіне түсінеді. «Біздің итіміздің аты кім?», - деп сұрақ қояды, сол мезетте байланыс үзіліп кетеді. Бұл оны ақшасын жоғалтудан құтқарды.

«Айына 30%-а дейін инвестициялар»

TikTok-та елге танымал кәсіпкерлермен «бейне сұхбаттар» жиі пайда болып жатыр, онда олар жаңа жобаға ақша салуға кеңес береді. Шындығында, бұл дипфейк, ал «инвестициялық платформа» жалған болып келеді.

Мұндай жағдайлар Қазақстанда орын алып, адамдар жүздеген мың теңге қаражаттарын жоғалтты.

Жалған «шенеунік»

Алаяқтар мемлекеттік қызметшілердің атынан бейне жолдаулар жасап, төлемдер, субсидиялар немесе өтемақылар беруге уәде береді. Адамдар сілтемеге өтіп, деректерін енгізеді, нәтижесінде карталарына кіре алмай қалады.

Дипфейкті қалай танып-білуге болады

1. Күмәнді контекст. Егер бейне кенеттен пайда болса және шұғыл әрекет етуді қажет етсе (ақша аудару, сілтемені басу, «келісу») — бұл қызыл жалау.

2. Бет-бейнені егжей-тегжейлі қараңыз. Ерін мен дауыс синхронизациясының бұзылуы, табиғи емес жыпылықтау, «пластикалық» тері, жарықтың күрт өзгеруі — мұның бәрі сыбырлап айтылатын кеңестер. Жоғары сапалы қолдан жасалған белгілер қиынырақ, бірақ бәрібір артефактілерді қалдырады.

3. Дауысты мұқият тыңдаңыз. Түсірілім орнына сәйкес келмейтін екіпннің ауытқуын, «жалпақ» интонацияны немесе фондық шуды іздеңіз.

4. Дереккөзді тексеріңіз. Жарияланымды тексерілген ресми аккаунттармен салыстырыңыз (ресми сайт, әлеуметтік желідегі «құсбелгісі» бар аккаунт — бірақ тіпті «құсбелгіні» де жалған беттер арқылы жасауға болады). Жасау уақытына, көрші беттердегі жазбаларға және жарияланымдар тарихына назар аударыңыз.

5. Кері іздеу. Кадр бойынша (Google Images, Yandex) немесе бейне скриншот бойынша кері іздеуді пайдаланыңыз — мүмкін, материал бұрын бір жерде қолданылған немесе басқа роликтен алынған болуы мүмкін.

6. Метадеректер және файл сапасы. Егер файлға кіру мүмкіндігі болса, метадеректерді тексеріңіз: камера, жасалған күні, кодектер. Көбінесе жалған белгі қайта кодтау іздерін қалдырады.

7. Фактілерді қайта тексеру. Ресми БАҚ, баспасөз қызметтері немесе бейінді ведомстволар роликтің мазмұнын растайтынын тексеріңіз. Егер жоқ болса — таратпаңыз.

Егер Сізге күмәнді бейне немесе аудио жіберілсе не істеу керек

1. Асықпаңыз. Материалды қайта жібермеңіз немесе жарияламаңыз.

2. Түпнұсқаны сақтаңыз. Файлды жүктеп, дереккөзді (сілтеме, скриншоттар, уақыт) тіркеңіз.

3. Дереккөзді тексеріңіз (кері іздеу, аккаунтты тексеру, ресми дереккөзге сұрау салу).

4. Күмәндансаңыз — ресми түрде қоңырау шалыңыз. Роликте бейнеленген адамға оның «ескі» (сізге белгілі) нөмірі арқылы немесе тексерілген арна арқылы хабарласыңыз.

5. Егер залал/бопсалау болса — дереу полицияға және банкке хабарласыңыз (есептен шығару тәуекелі болған кезде) — сақталған файлдар дәлел ретінде қызмет етеді.

Әрбір отбасы үшін: отбасылық «код сөзі»

Код сөзі туралы келісіп қойыңыз (қарапайым емес және жалпыға қолжетімді ақпаратпен байланысты емес). Егер біреу қоңырау шалса немесе шұғыл ақша аударымын немесе ақша беруді сұрайтын бейне/аудио жіберсе — код сөзін атауды талап етіңіз. Дұрыс код болмаса — ешқандай әрекет жасамаңыз. Бұл басына іс түскенде алаяқтың өзін туыс ретінде көрсететін жалған «құтқару түймесінен» қарапайым және тиімді қорғау болып табылады.

«Туыстан» қоңырау / хабар келіп түскен кездегі рәсім:

1. Сізден көмек сұраған адаммен бейне байланысқа шығыңыз (бет пен дауысты келтіруге болады, ал көзбе-көз сөйлескен дұрысырақ).

2. Сіз бен жақындарыңыз ғана білетін құпия сөзді және нақтылайтын фактілерді айтуды сұраңыз (мысалы, жануардың кішкентай кезіндегі аты, бірінші рет кездескен жер).

3. Белгісіз адам қоңырау соққан адамға емес, туысқаныңыздың «ескі» нөміріне қоңырау шалыңыз.

Ұйымдар үшін:

• Аударымдар жасау кезінде көп факторлы тексеруді енгізіңіз (жазбаша растау, құпия сөз, бірнеше қолтаңба).

• Қызметкерлерді дипфейктерді ажыра білуге үйретіңіз және шұғыл тапсырмалар үшін «екі арна» рәсімдерін енгізіңіз. Көптеген ірі оқиғалар ақшаның ауызша сұрауға аударылуына байланысты болған.

Қазақстанда дипфейк үшін құқықтық жауапкершілік

Қазақстан заңнамасында әлі «дипфейк» деген жеке термин жоқ, бірақ алдау, жала жабу немесе алаяқтық үшін ЖИ технологияларын қолдану Қылмыстық кодекстің қолданыстағы баптарына жатады:

• ҚР ҚК 190-бабы – алаяқтық (пайда алу мақсатында алдау): жаза — айыппұлдан бастап 7 жылға дейінгі мерзімге бас бостандығынан айыруға дейін.

• ҚР ҚК 274-бабы – жалған ақпарат тарату: жаза – 3000 АЕК-ке дейін айыппұл салу немесе 3 жылға дейін бас бостандығын шектеу.

• ҚР ҚК 147-бабы – Жеке өмірге қол сұғылмаушылықты бұзу: басқалардың бейнелері мен дауыстарын келісімсіз пайдалану қылмыстық жазаға әкеп соғуы мүмкін.

• ҚР Азаматтық кодексінің 143-бабы жалған материалдарды алып тастауды және моральдық зиянды өтеуді талап етуге құқық береді.

Маңызды: егер сіз дипфейк жасамай, оны таратсаңыз да, әкімшілік немесе азаматтық жауапкершілікке тартылуыңыз мүмкін.

Fingramota.kz-тен кеңестер

1. Күмәнданыңыз – бұл ақылды адамның белгісі. Бейнежазба шынайы көрінсе де, әрқашан өзіңізге «Мұны кім жариялады және не үшін?» деген сұрақты қойыңыз

2. Отбасылық қауіпсіздік алгоритмін жасаңыз. Құпия сөз, «ескі» нөмір бойынша тексеру және «растаусыз аудармау» ережесі.

3. Инвестициялық ұсыныстарды тексеріңіз. Қазақстандағы нақты компаниялар тіркелуге және оларда Қаржы нарығын реттеу және дамыту агенттігінің (ҚНРДА) лицензиясы болуға тиіс.

4. «Шұғыл» өтініштерге сенбеңіз. Алаяқтар қашан да асықтырады. Шын ұйымдар ойлануға және құжаттарды тексеруге уақыт береді.

5. Күдікті жағдайлар Қаржы нарығын реттеу және дамыту агенттігіне: www.gov.kz және полицияға eOtinish.kz немесе 102 туралы хабарлаңыз.

Бүгінгі күні жалған бейнежазба жасау кофе қайнатудан да оңай. Бірақ мұқият, сыни ойлау және қаржылық сауаттылық болса, технологиялар да қорқынышты емес. Есіңізде болсын: Сізге «ұлыңыз», «директор» немесе «шенеунік» қоңырау шалса да — көзіңіз бен құлағыңызға сенуге асықпаңыз. Жай ғана «Біздің құпия сөзіміз қандай?» деп сұраңыз.