Так, новый закон запрещает использование ИИ-систем с неприемлемым уровнем риска для безопасности людей. Это, к примеру, системы, которые так или иначе манипулируют людьми, используя социальную инженерию, различные методы манипуляций или использующиеся для социальных оценок.
Помимо этого, ИИ запрещено использовать для таких задач:
- Удалённая биометрическая идентификация в общественных местах и в режиме реального времени. Это разрешается только полиции и лишь после решения суда.
- Использование ИИ для разделения людей на категории по гендерным, расовым, религиозным или иным параметрам.
- Использование прогностических систем для полиции, которые работают на базе профилирования.
- Использование ИИ для распознавания эмоций в правоохранительных органах, пограничных службах, ??в учебных заведениях и на рабочих местах.
- Извлечение биометрических данных из социальных сетей или с видеозаписей с камер видеонаблюдения для создания базы данных.
Также закон вводит понятие ИИ-систем «высокого риска», которые могут потенциально причинить вред человеку. В числе таковых есть рекомендательные алгоритмы социальных сетей. Их разработчикам нужно будет обеспечивать высокое качество данных для обучения ИИ, а также зарегистрировать системы в европейской базе данных.
При использовании же чат-ботов, разработчики и поставщики обязаны уведомить пользователей, что те они взаимодействуют с ИИ, а не с живым оператором. Для генеративных же нейросетей установлено требование об указании авторства контента. То есть, нужно явно указать, что картинка или текст сгенерированы ИИ.
