Функција за процена на возраста на ChatGPT и безбедност на млади корисници: Апликација и дебати
Големите влијанија на вештачката интелигенција врз младите корисници продолжуваат, а OpenAI најави нова безбедносна функција за ChatGPT: проценка на возраст. Оваа механика ја анализира сметките кои пристапуваат до платформата со цел да ги идентификува малолетните корисници и автоматски да активира ограничувања во разговорите. Намалувајќи ја ризикот од изложеност на опасни содржини за деца и млади, пристапот нагласува нашата намера да поддржуваме безбедна комуникација.
Според информациите што ги сподели OpenAI, системот за проценка на возраст работи со помош на вештачки интелектуален алгоритам. Овој алгоритам врши проценка преку поведенија и сигнали од сметките. Вклучените елементи во проценката содржат јавеноа возраст, време на активност на сметката и периодите од денот кога најчесто се користи. Тековните филтри на ChatGPT ги ограничуваат содржините што се однесуваат на сексуалност, насилство и други чувствителни теми за корисници под 18 години; проценката на возраст автоматски ги активира овие филтри.
Ако се утврди дека една сметка е малолетна, овие филтри автоматски се активираат и разговорите се насочуваат кон побезбедна рамка. Сепак, постои и решение за можност за погрешна класификација: корисниците можат да испратат селфи преку идентификацискиот партнер Persona за да ја потврдат својата возраст, а кога процесот е завршен, сметката повторно се добива статус на возрасен. Ефективноста на оваа технологија предизвикува различни дискусии.
Стручњаци нагласуваат дека дел од одговорноста за заштита на младите преку проценка на возраст на дигиталните платформи може да се одвои од одговорноста на нивните семејства. Од друга страна, ризиците во реалниот свет, како што се неовластено користење на семејниот автомобил или насилство со огнено оружје, покажуваат дека безбедносните мерки самите по себе не се доволни. Затоа, ефектот на употребените технологии и рамката на општествената одговорност остануваат актуелни теми за дискусија.
