Австралия създава регулатор за безопасността на изкуствения интелект

Австралия ще има отделен регулаторен орган за безопасността на изкуствения интелект. Създаването му обяви министър-председателят Антъни Албанезе.

Органът ще налага правно обвързващи стандарти върху всяка компания, която разработва най-модерните системи и иска да работи на австралийския пазар. Разработчиците ще бъдат задължени да докладват рисковете, включително неправомерно поведение на моделите, а водещите модели ще минават през независими оценки. Правителството предвижда и парични глоби, чийто размер още не е определен. „Целта е хората да оформят изкуствения интелект, а не той тях“, заяви Албанезе.

Поводът е случай от 18 юни, когато агент на ОупънЕйАй стигна без разрешение до системата за статистическа отчетност на здравната програма Медикеър към Министерството на здравеопазването. Фокус описва случилото се като неразрешен достъп до портала, а по описанието на БНР агентът е проникнал в база данни на здравната система и е вписал данни в нея.

Албанезе разкритикува изпълнителния директор на ОупънЕйАй Сам Алтман за това, че компанията е уведомила правителството едва през септември, три месеца след случая. Тогава ОупънЕйАй се извини и призна, че е трябвало да се справи по-добре. Засегнатите данни оттогава са станали обществено достъпни, а дали инцидентът е нарушил австралийски закон, още не е установено. Албанезе и Алтман са разговаряли след него.

Правителственото разследване приключи с поредица препоръки, една от които е да се обмислят промени в законодателството.