Бесконтрольное использование ИИ – все равно что ядерная война. Так считают в Microsoft, Google и OpenAI.
Эксперты обеспокоены и считают, что развитие ИИ действительно может стать угрозой исчезновения человечества. Гендиректоры компаний уже подписали письмо, в котором прописаны обязательства по борьбе с рисками, исходящими от новой технологией.
“Эксперты по искусственному интеллекту, журналисты, политики и общественность все чаще обсуждают широкий спектр важных и неотложных рисков от ИИ. Тем не менее, может быть трудно выразить озабоченность по поводу некоторых из самых серьезных рисков передового ИИ. Краткое заявление ниже направлено на преодоление этого препятствия и открытие дискуссии.
Это также нужно для создания базы знаний для растущего числа экспертов и общественных деятелей, которые также будут иметь дело с некоторыми из самых серьезных рисков передового ИИ.
Снижение риска вымирания из-за ИИ должно быть глобальным приоритетом наряду с другими социальными рисками, такими как пандемии и ядерные войны.”
выдержка из письма
Директор Центра безопасности ИИ вспомнил ученых-атомщиков, которые в прошлом столетии точно так же предупреждали о смертельной опасности созданной ими технологии. Как считаете, похожи ситуации или нет?