Глава OpenAI Альтман – назвал два сценария, при которых ИИ может навредить человечеству:
Есть два пути, по которым развитие ИИ может пойти очень плохо, и мы должны их избежать. Во-первых, мы можем потерять контроль над будущим в пользу ИИ. Это неприемлемо, мы безоговорочно на стороне человечества, и ИИ всегда должен служить людям. Чтобы это обеспечить, нужны способы гарантировать, что методы согласования ИИ с человеческими целями и меры безопасности будут опережать рост возможностей моделей.
Во-вторых, мы можем оказаться в мире со слишком большой концентрацией власти. Если чрезвычайно мощный ИИ будет использовать один человек или одна компания, чтобы навязать всем остальным своё мировоззрение, последствия могут быть крайне антиутопичными. Чтобы избежать этих двух угроз, нужно пройти по узкому срединному пути. Например, слишком большую власть может получить одна страна. Или, другой пример, слишком много власти может оказаться у одной лаборатории.
Источник: Открыть
