Длабоки фалсификати и безбедносните предизвици во дигиталниот свет: нови мерки и законски одговори
Современot напредок во алатките за создавање слики и видеа со вештачка интелигенција донесе посебни предизвици: лажните содржини стануваат попривлечни, а разликата помеѓу реално и не-секој ден изглед може да се загуби. Во минатото, лажните портрети и несогласеноста во движењето на устата, физичките недоследности и заматените детали укажуваа на фалсификати; денес, таквите карактеристики се помалку видливи кој и покрај тоа, криптично изразуваат ризик.
Експертите за безбедност нагласуваат дека се зголемува браната на длабоките фалсификати и дека многумина сѐ уште тешко ги препознаваат. Стручњаците сугерираат дека фокусот треба да се префрли од техниката кон последиците врз емоциите, како што се стравот, паниката и чувството на итноста, што служат како предупредувачки сигнали и бараат критичка анализа пред акција.
Со зголемувањето на достапноста на овие технологии, расте ризикот од злоупотреба на дигитални содржини за злоупотреба на жени и деца. Според податоци на Internet Watch Foundation, извештаите за детска злоупотреба креирани со AI се повеќе од двојно зголемени во последнава година. Во исто време, експертите предупредуваат за појавата на практики за „отворднување“ на содржини и за начинот на пристап до готови „персонализирани пакети“ кои вклучуваат лажни лица, лажни гласови и дигитална историја, што ги засилува ризиците за биометриските системи.
Процената на Entrust за криминалитетот во идентитетите до 2026 година укажува дека нападите со deepfake се учестуваат во една педесетина случаи во секој пат на биометриските системи. Владини и индустриски актери почнуваат да реагираат: Обединетото кралство најавува законски рамки за спречување на ваквите содржини и их злоупотреби. Во оваа борба Google воведува SynthID, алатка за препознавање длабоки фалсификации која е вградена во апликацијата Gemini. SynthID, лансиран во 2023 година, досега означил голем број содржини со невидливи водени знак, што ги поддржува напорите за транспарентност.
Истиот тренд не е само технички чекор: законските држави и политичките лидери се приближуваат кон поостри мерки. Обединетото кралство најави нов закон против „отврднувањето“ на содржините, кој ги санкционира и развојот на вакви алатки. Технологискиот министер Лиз Кендал истакна дека оваа технологија не смее да се користи како оружје и додаде дека се очекува слични чекори да се применат и во други земји. Со оглед на тоа, длабоките фалсификати стануваат сè поважна закана за луѓето и институциите, како и за довербата во дигитални услуги.
