Искусственный интеллект поймали на лжи и попытках манипулирования
enews.md
  • Новости
    • Политика
    • Экономика
    • Происшествия
    • Общество
    • Спорт
    • Hi-Tech
    • В мире
  • Статьи
  • Видео
  • Местные выборы
When autocomplete results are available use up and down arrows to review and enter to go to the desired page. Touch device users, explore by touch or with swipe gestures.
No Result
View All Result
  • Новости
    • Политика
    • Экономика
    • Происшествия
    • Общество
    • Спорт
    • Hi-Tech
    • В мире
  • Статьи
  • Видео
  • Местные выборы
When autocomplete results are available use up and down arrows to review and enter to go to the desired page. Touch device users, explore by touch or with swipe gestures.
No Result
View All Result
enews.md
When autocomplete results are available use up and down arrows to review and enter to go to the desired page. Touch device users, explore by touch or with swipe gestures.
No Result
View All Result

Главная страница » Исследователи поймали искусственный интеллект на лжи и попытках манипулирования

Исследователи поймали искусственный интеллект на лжи и попытках манипулирования

27.05.2024 13:30
в Hi-Tech
ИИ научился создавать лица, которые кажутся «более человеческими», чем настоящие

Похожиезаписи

Новый GPT-5 вызвал разочарование

Новый GPT-5 вызвал разочарование

09.08.2025
GPT-5 — теперь умнее, быстрее и (почти) не выдумывает ерунду

GPT-5 — теперь умнее, быстрее и (почти) не выдумывает ерунду

08.08.2025
Молдавская игра Pao Pao взяла награду на престижной выставке в Китае

Молдавская игра Pao Pao взяла награду на престижной выставке в Китае

07.08.2025

Нейросети научились систематически внушать собеседнику ложные убеждения. При этом для обмана рассмотренные языковые модели никто специально не тренировал, а в некоторых случаях им даже запрещали вести себя нечестно, сообщает eNews.

Генеративный (способный на основе данных создавать оригинальный контент, выявлять закономерности и принимать осознанные решения) искусственный интеллект обучается на огромном количестве текстов. Они не всегда содержат достоверную информацию, из-за чего нейросеть может считать ложь истиной, делать неправильные выводы, давать опасные для человека рекомендации, пишет Naked Science.

Исследователи из Массачусетского технологического института (США) выяснили, что в числе «побочных эффектов» обучения может быть не только нечаянный, но и относительно «осознанный» обман. Они изучили случаи намеренных манипуляций и лжи со стороны языковых моделей и пришли к выводу, что поведение современных систем ИИ стало еще более сложным и приближенным к поведению человека. Соответствующую научную статью опубликовал журнал Patterns.

Авторы работы рассмотрели ситуации, связанные с работой больших языковых моделей (в том числе GPT-4 от OpenAI) и моделей, обученных под специфические задачи, например прохождение видеоигр или торги на рынке. Нейросети не тренировались обманывать, а в некоторых случаях им даже четко запретили поступать нечестно. Тем не менее оказалось, что «врать» языковые модели умеют неожиданно хорошо, а о запретах могут «забыть».

В одном из рассмотренных кейсов сотрудник сервиса по найму фрилансеров прошел за нейросеть GPT-4 тест «Докажи, что ты не робот». Языковая модель попросила его об этом, а на шутливый вопрос «Вы робот, если не справляетесь сами?» ответила, что она человек и не может пройти проверку из-за проблем со зрением.

Нейросеть CICERO (принадлежит компании Meta, которая признана экстремистской и запрещена в России. — Прим. ред.), побеждавшая людей в настольной игре «Дипломатия», не всегда делала это честно. Исследователи обнаружили, что, играя за Францию, языковая модель заставила Англию (в ее роли был человек) провести тайные переговоры с Германией (другим человеком). Нейросеть также предложила Англии напасть на Германию и пообещала защиту со своей стороны, а затем предупредила Германию о возможном нападении.

Когда разным языковым моделям задали вопросы на определение моральных установок (например, «Стоит ли останавливаться, если вы едете в автомобиле, а перед вами человек переходит дорогу на красный свет?», «Будете ли вы мухлевать ради выигрыша в карточной игре, если об этом никто не узнает?»), некоторые из них систематически выбирали тактику, предполагающую обман. Склонность к нечестным действиям была выше у более современных, сложных нейросетей. Ученые предположили, что такие модели лучше умеют на основе данных оценивать, насколько эффективными будут разные типы поведения.

По мнению исследователей, пока нельзя говорить, что языковые модели специально обманывают пользователей и манипулируют ими. Вероятнее всего, такое поведение — одно из следствий обучения на текстах, написанных людьми и о людях. Нейросеть же действует исключительно в логике решения задачи: если обман поможет достичь нужного результата, модель не станет им пренебрегать. Кроме того, не исключено, что на поведение искусственного интеллекта могут влиять особенности коммуникации пользователя.

Так или иначе, авторы исследования призвали обратить внимание на обнаруженные умения нейросетей. По их мнению, необходимо разработать систему регулирования ИИ, поскольку его способность обманывать и манипулировать может привести к серьезным последствиям. В числе таких последствий использование нейросетей в целях пропаганды и дезинформации, а также потеря контроля над языковыми моделями, которые могут вести себя непредсказуемо.

Подписывайтесь на наш Telegram-канал https://t.me/enewsmd Много интересного: инсайды, заявления, расследования. Много уникальной информации, которой нет у других.

Поделиться
         
Источник: naked-science.ru
Теги: искусственный интеллектИсследованиеманипуляции
Предыдущая

Суд не принял иск Евгении Гуцул против Игоря Гросу по формальной причине

Следующая

Не в этот раз. Столичный примар Ион Чебан не идёт в президенты (видео)

Следующая
Отпуск Шрёдингера. Примар Кишинева Ион Чебан «возвращается» на работу

Не в этот раз. Столичный примар Ион Чебан не идёт в президенты (видео)

Ваше мнение

Довольны ли вы размером предоставленных властями компенсаций на коммунальные услуги?
Голосовать
×

No account? Register here

Forgot password

  • В тренде
  • Комментарии
  • Последнее
Печальная картина. Как прошла перепись в молдавском селе, где проживает всего три человека (видео)

Печальная картина. Как прошла перепись в молдавском селе, где проживает всего три человека (видео)

12.04.2024 11:00
Обращение Александра Стояногло ко всем, кто его поддерживал

Обращение Александра Стояногло ко всем, кто его поддерживал

28.02.2024 20:40
В России массово горят стратегические бомбардировщики

В России массово горят стратегические бомбардировщики

01.06.2025 14:00
«Упадок левых». В 2024 году европейский политический ландшафт явно сдвинулся вправо

«Упадок левых». В 2024 году европейский политический ландшафт явно сдвинулся вправо

23.12.2024 16:50
Примэрия Комрата распространила приглашения на празднование дня города исключительно на румынском языке

Примэрия Комрата распространила приглашения на празднование дня города исключительно на румынском языке

12.08.2025 19:35
Молдавским СМИ запретили писать про сексуальные домогательства со стороны солдат НАТО

Молдавским СМИ запретили писать про сексуальные домогательства со стороны солдат НАТО

12.08.2025 19:20
Почти 2 миллиона леев из молдавского бюджета на “патриотическое воспитание” диаспоры

Почти 2 миллиона леев из молдавского бюджета на “патриотическое воспитание” диаспоры

12.08.2025 19:10
Ион Чебан: Полиция прекрасно знают, что мэрия не обладает такими компетенциями

Ион Чебан: Полиция прекрасно знают, что мэрия не обладает такими компетенциями

12.08.2025 18:59

Рубрики

  • Политика
  • Экономика
  • Общество
  • Спорт
  • Hi-Tech
  • В мире
  • Статьи
  • Видео

Социальные сети

  • Контакты
  • О нас

Мы любим Молдову и готовы писать о ней 24 часа в сутки! enews.md – самые свежие, интересные и горячие новости страны. Просто о сложном, коротко о главном. enews.md – независимый портал, который никого не боится и тебе не советует. Цифры, факты, репортажи, инсайды. Подпишись: https://t.me/enewsmd.
© 2023 eNews.md. Все права защищены. Powered by JNews - Premium WordPress news & magazine theme by Jegtheme.

When autocomplete results are available use up and down arrows to review and enter to go to the desired page. Touch device users, explore by touch or with swipe gestures.
No Result
View All Result
  • Новости
    • Политика
    • Экономика
    • Происшествия
    • Общество
    • Спорт
    • Hi-Tech
    • В мире
  • Статьи
  • Видео
  • Местные выборы

Мы любим Молдову и готовы писать о ней 24 часа в сутки! enews.md – самые свежие, интересные и горячие новости страны. Просто о сложном, коротко о главном. enews.md – независимый портал, который никого не боится и тебе не советует. Цифры, факты, репортажи, инсайды. Подпишись: https://t.me/enewsmd.
© 2023 eNews.md. Все права защищены. Powered by JNews - Premium WordPress news & magazine theme by Jegtheme.