Проект первого закона о регулировании ИИ заблокирован губернатором Калифорнии

Гэвин Ньюсом наложил вето на ранее принятый в заксобрании Калифорнии закон о предотвращении катастроф, вызванных ИИ. По словам Ньюсома, он не обеспечивает безопасность использования ИИ, а лишь создаёт её видимость.

Никто не хочет повторения «Терминатора», потому законодатели возложили полную ответственность за безопасность на всех разработчиков ИИ, предусмотрев тестирование и оценку рисков, аварийную остановку моделей и многомиллионные штрафы. В процессе законопроект пересмотрели и распространили его только на модели ИИ, использование которых стоит от 100 миллионов долларов, а мощности для обучения составляют не менее 10^26 флопс.

Ньюсому не понравилось, что в такой формулировке закон считает опасными исключительно дорогие и мощные ИИ. Маломощные модели могут оказаться столь же опасными, если они, например, развёрнуты в сферах с более высокими рисками или работают с конфиденциальными данными. При этом губернатор признаёт, что регуляция нужна, но критерии для неё нужно вырабатывать на основе опыта и анализа рисков, а не просто прописывая их в законе, отталкиваясь от субъективных представлений.

С другой стороны проекту явно противостоят разработчики ИИ. Любые ограничения в первую очередь ограничат потенциал исследователей по созданию более мощных ИИ, и участникам гонки это не нравится. Интересно будет посмотреть, вернётся ли закон в новой редакции с более гибкой системой оценки опасности ИИ. Всё-таки историческая штука — одна из первых попыток регуляции отрасли.