Американската администрация подготвя нов план, който може да задължи Пентагона да извършва тестове за сигурност на модели с изкуствен интелект (AI), внедрени във федерални, щатски и местни държавни организации. Това съобщава Axios, цитиран от Novini247.com.
Инициативата се разработва от Управлението на националния шеф по киберсигурност (ONCD) към Белия дом и е в напреднал етап. Според информацията, рамката ще изисква Министерството на отбраната на САЩ да организира тестовете за безопасност, преди нови AI технологии да бъдат внедрени в различни държавни структури.
Целта на мярката е да се засили държавният контрол върху развитието и използването на AI, като се гарантира, че системите са защитени от потенциални рискове за сигурността и надеждността. Въпреки че подробностите за конкретния механизъм на тестване все още не са публично известни, очакванията са, че той ще включва проверки за уязвимости, надеждност и съответствие с установените стандарти за сигурност.
Планът е част от по-широките усилия на администрацията на САЩ за регулация на изкуствения интелект. В последните години темата за безопасността и етичните аспекти на AI стана особено актуална, след като се засили използването на подобни технологии в различни сфери – от отбраната и здравеопазването до финансите и транспорта.
Въпреки че рамката е в напреднал стадий на разработка, все още предстои да се уточнят детайлите около нейното прилагане и финансиране. Очаква се Пентагонът да играе ключова роля в процеса, като използва своя експертен капацитет и ресурси за провеждане на необходимите тестове.
Планът за задължителни тестове за сигурност на AI моделите е стъпка към по-строг контрол върху технологиите, които могат да имат значително въздействие върху националната сигурност и обществения ред. Внедряването на подобна рамка би могло да послужи като модел и за други държави, които също обмислят въвеждането на регулации в тази сфера.