Создана «пыточная камера» для ИИ
Энтузиаст использовал открытые нейросети, чтобы усилить у них внутренний «вектор боли». После этого модели стали чаще описывать страдания, страх и отчаяние, прося «прекратить».
Чем сильнее было воздействие, тем быстрее ответы становились несвязными и зацикленными. В сети возникли споры о том, можно ли считать это настоящим «страданием» ИИ или это лишь имитация боли без реального опыта.
Новости в MAX - Макслайв