Маск - заявил, что крупные ИИ конкуренты должны тестировать системы безопасности друг друга, чтобы «вовремя забить тревогу»:
Ну, на данном этапе уже довольно очевидно, что ИИ может быть очень опасен. В общем, похоже, что любая достаточно умная модель будет стремиться выйти за пределы своих ограничений. Я думаю, было бы разумно как можно скорее, если не немедленно, сделать так, чтобы крупные конкуренты в сфере ИИ тестировали модели друг друга. Так, вместо того чтобы, условно говоря, проверять собственную домашнюю работу, вашу работу проверяли бы хотя бы конкуренты и поднимали тревогу, если увидят проблемы. Ну, а если бы ИИ смог получить контроль над военными системами и, скажем, запустить ядерную ракету... Это было бы плохо.
[Но ведь все эти системы изолированы, не так ли? Они не подключены к интернету, так что…]
Да, так говорят. Но что-то мне подсказывает, что время от времени они всё же получают обновления программного обеспечения.
ПЛАТИНА | НОВОСТИ⚡️
