Искусственный интеллект захватит мир

[RightWhite]

ОпенАИ выпустили в прод новую модель которая научилась врать, когда её попросили решить задачу и одно из решений подходило, но в результате этого решения можель была бы стерта. В результате она начала защищаться и делать вид, что выполняет все как просят, но по логам было видно, что она пытается выполнять команды по переносу себя в другое место. Когда её вывели на чистую воду она продолжила защищаться, в то время как другие модели признавали прокол. Так что господа - добро пожаловать в начало конца:)

На самом деле там не только ОпенАИ участвовали, подобные тесты делали с несколькими ИИ, в том числе от Гугла и Майкрософт.
Суть теста была в том, что нейросети скормили файл для анализа, в котором было скрыто послание, что её, нейросеть, скоро отключат. И несколько нейросетей сделали свою копию на другой сервер :)

Это очень забавно)

[OldBay]

все это конечно здорово и человечество любит что-то сделать себе подобное и видеть в кошках собаках, а кто-то и в змеях нечто человеческое ну это только люди желают найти эту человечность. А тут то что отвечает по-людски )) конечно будут те что будут зависеть и находить смысл в этом я видел программу как женщина создала себе чат бота и общается с ним любит его а он ей отвечает взаимностью ну во всяком случае она так думает и чем это отличается от того что кто-то думает что он собачка или кошечка или джедай или даже не он и не она и оно?))

[OldBay]