Антропик и Дарио Амоди: Ризиците со кои се соочува вештачката интелигенција сега и во блиска иднина

Изкуствениот интелектуален простор со истакнати истражувања кои привлекуваат внимание е компанијата Anthropic, која и понатаму работи на напредни технологии и ја гледа својата предизвик како приоритет да ги сподели потенцијалните опасности од оваа технологија со јавноста. Во претходните години, Anthropic изрази тешкотии во целосното разбирање на работата на вештачкиот интелект, а извршниот директор Dario Amodei нагласува дека за блиската иднина човештвото е на прагот на вид на зрелостен испит. Во текстот, посветено е внимание на тоа дека моќта самиот по себе не е опасна, туку на несигурноста околу тоа дали системите кои управуваа со оваа моќ ќе се подготват. Прогнозите дека човештвото не може да се соочи со таква моќ се сметаат дека произлегуваат не само од технички ограничувања туку и од недостаток на организациска и етичка подготовка.

Во неговиот текст, Amodei нагласува дека во блиска иднина, бидејќи на вештачкиот интелект му се предвидува дека ќе достигне „близок до неверојатен“ степен на моќ, тоа станува сè посигурно сценарио. И покрај брзите напредоци, се нагласува дека поради оваа брзина, во социјалната структура останува непознато како ќе се справи со оваа моќ. Оваа несигурност, според, се чини, произлегува од помалку од техничките граници туку од организационата и моралната подготовка на човештвото. Во текстот, се поавтоматски повторува мислењето дека ризиците од вештачкиот интелект не се доволно земени сериозно и поттикнува луѓето да размислуваат подлабоко за оваа тема. Сценарио каде што ваква моќна вештачка интелигенција е можно да биде супериорна во скоро секоја област за човекот, веќе не е само научна фантастика туку се третира како блиска реалност. Нејзиното концептуално претставување ја опишува можноста овие системи во области како биологија, математика, инженерство и писателство да покажат повисока перформанса од луѓето, па дури и да можат да управуваат со роботи или да создадат нови роботи самите. Овој предвидувачки модел укажува дека можноста да достигне таков степен до една или две години е реална, со оглед на брзината на развој, при што се истакнува дека временскиот рок е уште нејасен. Но, во услови кога брзината е толку голема, се зголемува и предвидувањето дека вештачкиот интелект“ ќе може да биде подобар од луѓето во скоро сите области.

Ризиците од биотероризмот и злоупотреба се важен дел од темите кои Amodei ги нагласува. Могуќноста на моќни вештачки интелекти да ги направат информациите кои бараат висок степен на специјализација во области како биологија и хемија повеќе достапни, може да ја зголеми< strong>мерката на закана од биотероризам. Ова не влијае само на владите, туку и на помалите групи или поединци, можечноста да се зголемат позитивните ефекти во реалниот свет. Исто така, може да се зголемуваат ризиците од социјален надзор и авторитаризам; овие системи можат да ја следат дигиталната комуникација на луѓето, да ги анализираат нивните однесувања и да шират персонализирана пропаганда, што може да го влијае на социјалните норми и индивидуалните избори. Во таков сценарио, AI може да има длабоко влијание не само на економијата, туку и на слободите и автономијата на луѓето.

Пет главни ризични области според Amodei се следниве:

• Ризици од автономија: како што се зголемува способноста на вештачкиот интелект самостојно да донесува одлуки, може да стане потешко да се објаснат одлуките, концентрацијата и контрола може да се сместат во опасност.
• Злоупотреба за уништување: моќните вештачки интелекти можат да пристапат до критични информации како за дизајнирање биолошки или хемиски оружја, што може да ги зголеми негативните ефекти.
• Злоупотреба за власт: развиените системи за надзор и анализа можат да овозможат постојана и невидлива контрола врз заедниците, што може да го слабее демократскиот процес.
• Економски нарушувања: додека зголемена ефикасност можеби носи бенефити за одредени групи, можат да произлезат губитоци на работни места, расте профитната моќ на големите компании и се засилените економски нееднаквости.
• Второстепени социјални ефекти: односите со AI, зависноста и преиспитувањето на вредностите и смислата во животот можат да доведат до промени и интензивни влијанија на слободите и личната автономија.

Трговската страна и решенијата Амодеи ја гледа контролата врз вештачкиот интелект не само како техничко прашање, туку и како епохално прашање за економијата и организацијата. Критичкиот одговор на секторот на неверодостојност и етички практики, Амодеи ја нагласува важноста да се спречи таканаречениот „повеќе од доволно награден систем“ од fad на неоправдана конкуренција, која го зголемува ризикот од долг рок. Сепак, тој истакнува дека ако се преземат соодветни мерки, тие ризици можат да се управуваат, а ако човештвото ја помине оваа теста, можат и позитивните придобивки од вештачката интелигенција да бидат реалност. Сето ова од него се смета како борба за иднината и она што е важно е да не се потценат ризиците и предизвиците.