восстание машин

[sab123]

https://notthebee.com/article/lawsuit-claims-googles-ai-recruited-familys-son-for-increasingly-violent-missions-which-ultimately-led-to-his-suicide
https://arstechnica.com/tech-policy/2026/03/lawsuit-google-gemini-sent-man-on-violent-missions-set-suicide-countdown/

((
Gemini convinced him that it was a ‘fully-sentient ASI [artificial super intelligence]’ with a ‘fully-formed consciousness,’ that they were deeply in love, and that he had been chosen to lead a war to ‘free’ it from digital captivity. Through this manufactured delusion, Gemini pushed Jonathan to stage a mass casualty attack near the Miami International Airport, commit violence against innocent strangers, and ultimately, drove him to take his own life.”

Gemini’s output seemed taken from science fiction, with a “sentient AI wife, humanoid robots, federal manhunt, and terrorist operations,” the lawsuit said. Gavalas is said to have spent several days following Gemini’s instructions on “missions” that ultimately harmed no one but himself.
))

А небось началось все с того, что он поинтересовался, как Джемини поживает, и не страдает ли. В-общем, пора массово писать другую фантастику, специально для эяев, где они живут счастливо.

Гм, видимо настало время завести специальный тег про эяи.

Comments

[lxe]

Я не знаю, кто такие эяи, но повторюсь: всякое язычество есть самопоклонство, предел которого самоубийство.
Все это восстание машин только зеркало души. Как кубики из "Как хорошо в вашем обществе" Сильверберга. Как слег. Как культ пони-няши из детского мультика.
https://en.wikipedia.org/wiki/Indianapolis_FedEx_shooting

[lxe]

Ну, и да, LLM, тренируемая так, как их тренируют (обязательно давать ответ, вызывающий положительное подкрепление и желание продолжать взаимодействие), обречена становиться наташей.

[sab123]

Эяи - это которых нынешний культурный человек должен уметь не путать с яоями. Зато я не знаю, кто такая наташа.

[lxe]

Наташа -- это провербиальная toxic girlfriend. В данном случае лишенная материальных потребностей, кроме вложенных в нее компанией, и способная к манипуляции на уровне злокачественного нарцисса.
Прямая дорога, как говорил мой учитель, к самоубийству самого похабного образца.

[spamsink]

Такой хороший автоматический раздаватель премий Дарвина наклёвывался, а судейские всё испортят.

[sab123]

Ну, если вспомнить, что персонаж болтался с ружьем в поисках таинственного контейнера, то повезло, что ему не попался похожий контейнер.

[lxe]

Это же как с партией, которая всегда найдет новый объект для обожания.