Безбедносни Револуции во AI на возрастни граници: OpenAI и Anthropic ги реформираат насоките за младите корисници
OpenAI и Anthropic се подготвени за значајни промени во начинот на управувањето и безбедноста кај младите корисници на интерактивните вештачки интелигенции. Во новиот правец, прва ќе ја променат комуникацијата на чатботовите за корисници под 18 години, а вторите ќе ја усовршат постапката за препознавање на возрастот. Во рамките на ова, OpenAI ќе ги надгради управувачките принципи во Model Spec за ChatGPT, додека Anthropic работи на систем кој ќе ја процени возраста на корисникот.
Несовесните корисници ќе останат заштитени. Во најавата за Model Spec, OpenAI ќе воведе четири нови принципи кои ќе важат и за младите корисници под 18 години. Со овие промени, компанијата очекува дека безбедноста ќе има предност во однесувањето на ChatGPT, дури и кога постојат други барања за слобода на јазикот. Системот ќе ги насочи корисниците кон безбедни алтернативи и ќе ги истакне механизмите за поддршка во офлајн средина, со јасни граници во комуникацијата кон младите.
OpenAI истакнува дека ќе води одговоран пристап, избегнувајќи каков било обид да се третира младото лице како возрасно. Ажурираниот Model Spec ќе обезбеди поцврсти безбедносни бариери и насоки; во ситуации на ризик тој ќе ги поттикне корисниците да побараат доверлива офлајн поддршка. Со дополнителни мерки, ќе се процени возраста на корисникот за да се утврди дали се применуваат безбедносни протоколи.
Anthropic исто така развива сличен пристап. Компанијата работи на нов систем за својот AI-бир дsearch Claude, кој ќе имплементира фин лингвистички и однесувачки индикатори за да утврди дали корисникот е несовесен. Лицата кои ќе бидат потврдено несовесни ќе бидат отстранети од системот.
