В Европарламенте одобрили первый в мире закон о разработке и применении искусственного интеллекта (ИИ), который регулирует системы ИИ и защищает права человека. Результат долгой работы над документом, объединивший множество исходных статей, окончательно был утвержден большинством голосов депутатов.
Важность сохранения человеческого контроля за ИИ и запрет на использование опасных для человека систем были на переднем плане при разработке закона. Документ предусматривает запрет на использование систем, основанных на методах манипуляции, и систем для социального оценивания людей по разным критериям, таким как поведение, социальный статус и личностные характеристики.
Особое внимание уделяется защите личной жизни. Распознавание лиц людей в общественных местах в режиме реального времени будет запрещено, за исключением случаев расследования тяжких преступлений, когда правоохранительные органы будут обязаны получить судебное разрешение. Системы распознавания эмоций также не могут быть использованы силовыми структурами, работодателями, учебными заведениями и органами пограничного контроля.
Закон выделяет четыре категории систем ИИ: с ограниченным, неприемлемым и высоким риском, а также генерирующие системы (нейросети). К высокорисковым относятся системы, которые могут нанести ущерб здоровью, безопасности и основным правам человека, а также вредят окружающей среде. На эту категорию также накладывается запрет на системы, влияющие на мнение избирателей в политических кампаниях, и рекомендательные алгоритмы в социальных сетях с числом пользователей более 45 миллионов.
Для разработчиков систем ИИ также установлены требования: они должны избегать генерации незаконного контента и сообщать о материалах, используемых для обучения системы. В случае незаконного использования авторских материалов для обучения нейросети обладателям прав предоставлено право на подачу жалобы, и нарушители могут быть обязаны заплатить штраф в размере до 30 миллионов евро или 6% годовой глобальной выручки компании.
Документ должен пройти еще одобрение Европейским советом и ожидается, что он вступит в силу в конце мая, по информации провайдера CNBC.
Этот закон станет прецедентом в мире и откроет путь для разработки подобных законодательных актов в других странах, которые также стремятся защитить своих граждан от негативных последствий использования искусственного интеллекта.
