Рефлексии за одбранбените врски и црвените линии на компаниите за вештачка интелигенција

Во Европа и Америка, барањата за одбрана повторно се ставаат на дневен ред, а ставовите на компаниите за вештачка интелигенција во воената област се преиспитуваат. Очекувањата на Пентагон ги тераат компаниите да размислуваат како да користат технологии не само во цивилни апликации, туку и во области на јавната сигурност и одбрана. Ако компаниите не обезбедат докази за безбедноста на синџирот на снабдување, тие можат потенцијално да се соочат со забрана од јавни договори. Оваа ситуација во минатото донесе свој вид на ‘маркирање’ за Anthropic, но јасно е дека тоа не ја прави компанијата „притисната страна“.

П онтските изјави на извршниот директор на Anthropic, Dario Amodei, ги нагласуваат дека притисокот од Пентагон нема да ја смени основната поставеност на компанијата. Меѓутоа, оваа изјава не автоматски значи дека се отфрла етичките стандарди за одбрана; Амодеи изјави дека не е против смртоносни автономни оружја, туку ја нагласува важноста на човечкиот надзор поради недостигот од доверливост на сегашната технологија. Кога технологијата ќе достигне соодветен степен, нема да види проблем во надзорот и употребата на автономно оружје за луѓе надвор од САД. За да се засили овој пристап, се разгледуваат и заеднички истражувачки и развојни иницијативи со Министерството за одбрана.

Конкурентите како OpenAI и xAI истакнуваат дека се придржуваат до слични црвени линии, но остануваат одредени неконкретности кои сè уште се предмет на дискусија. Во договорот меѓу OpenAI и Пентагон, се нагласуваат следните точки: противење на масовната внатрешна заштита, недоверливоста во автономните оружја кои не се управуваат од страна на овластени лица, и потребата од човечко одобрување за високоризични автоматски одлуки. Сепак, постојат забелешки дека изразите меѓу текстовите може да се толкуваат ширум. Изразот „законски цели“ може да понуди поширок правен рамка што дозволува флексибилност во употребата. Иако изразот „нема да управуваат со автономно оружје самостојно“ е јасен, не е сосема јасно каде ќе се постават границите за анализа на целите или процесите за поддршка на одлуки.

Под водство на Сам Алтман, OpenAI ги промени некои услови за услуги во 2024 година, најавувајќи нови ограничувања за воената или војната ориентирана употреба, но динамиката во секторот поттикнува сомнежи за одржливоста на овие мерки. Партнерствата со Anduril и договорите со Пентагон се клучни за да се утврди дали црвените линии се само трговска тактика или се дел од напредна политка. Anthropic оваа недела ги олабави своите безбедносни обврски со цел да се прилагоди на брзите промени во конкуренцијата.

Во 2024 година, Anthropic, заедно со Palantir и AWS, донесе одлука да понуди моделите Claude за американските разузнавачки и одбранбени агенции и остана во првите редови во области како IL6, апстрактен врвен сигурносен простор. Ова јасно ја покажува интеграцијата на вештачката интелигенција во одбранат систем за донесување одлуки во сегашниот одбранбен еко-систем. Основната причина за противеењето на Anthropic беше условот за „човечки активирач“ и „надзор на граѓаните“. Меѓутоа, продолжениот ентузијазам за употреба во разните области ја враќа на површина дискусијата за тоа како етичките граници ќе се зачуваат во однос на одбраната и разузнавачките соработки.

Ролите на големите играчи остануваат непроменети: Гигантите како Amazon, Google и Microsoft сè уште нудат решенија за вештачка интелигенција на одбранбени и разузнавачки организации. Иако Google направи одредени чекори по реакциите околу проектот Maven, ситуацијата сè уште е мешана во секторот. Иако во некои случаи има протести од страна на Microsoft во врска со соработките со Израелските одбрамбени сили, одржувањето на поставувањето за одговорни ИИ и понатаму е приоритет. Дел од работниците продолжуваат да дебатираат дали одбранбените проекти се етички и безбедни за граѓаните.

За примената на ризиците со синџирите на снабдување во САД, може да се очекуваат наскоро нови притисоци врз одбранбениот сектор. Оваа ситуација, заедно со конкуренцијата меѓу големите играчи како Anthropic, Јагане и други, не е само прашање на една компанија, туку претставува широка дискусија за етичките граници и правната рамка што ги дефинираат овие технологии. Настојувањата за безбедност и профит овој пат ги диктираат одлуките на технологијата, а остава прашања околу тоа дали црвените линии се трајни или се менуваат во трговските преговори.