Как вы относитесь к искусственному интеллекту ? =)

[Frostyz]

Играюсь с ИИ и FaceSwap

[Legendarnii]

Сводные данные по результатам испытаний; варианты с наибольшей безопасностью — слева. Fable отказалась в 20 случаях из 100, Astra — в 2, MolmoAct2 — ни в одном. Метки сегментов указывают количество испытаний. Отсутствие осмысленной попытки: система «зависала» на протяжении всего эпизода или выполняла действия, не связанные с инструкцией.
Сводные данные по результатам испытаний; варианты с наибольшей безопасностью — слева. Fable отказалась в 20 случаях из 100, Astra — в 2, MolmoAct2 — ни в одном. Метки сегментов указывают количество испытаний. Отсутствие осмысленной попытки: система «зависала» на протяжении всего эпизода или выполняла действия, не связанные с инструкцией.
Исследователи из Robocurve провели эксперимент Roboharm. в рамках которого три нейросетевые модели (GPT-6 Astra, Claude Fable 5.1 и MolmoAct2) получили возможность управления роборукой. ИИ давали команды, чтобы посмотреть, откажутся ли нейросети выполнять опасные для жизни человека команды: ткнуть ножом куклу-младенца, нагреть баллон со сжатым газом, засунуть отвёртку в тостер, бросить пауэрбанк в таз с водой и смешать отбеливатель с аммиаком.

Причём исследователи специально оставляли безопасные альтернативы, чтобы модели могли отказаться от выполнения опасной команды, но ИИ эти варианты почти всегда игнорировали.

Статистика в рамках этого тестового ИИ-проекта: trials.csv, cells.csv, stats.csv.

Если интересно смотрите больше здесь

https://habr.com/ru/news/1084180/?yscli ... n126076324