Простой способ вычислить пришельца из альтернативной реальности — выяснить, что в этом году он не слышал про ChatGPT. Компания OpenAI выпустила удобную нейросетку, которая работает в том числе на Android. Тема быстро стала вирусной: повсюду начали появляться мемы и новости о ChatGPT. Многие задались вопросом, не заменит ли искусственный интеллект человека в творческих профессиях. Но это только то, что лежит на поверхности. А если копнуть глубже, в потайные пружины глобальных процессов — что там творится? И как разворачивается борьба за искусственный интеллект прямо сейчас?
Илон Маск против всех
Недавно случился прорыв искусственного интеллекта в мире пользователей. ChatGPT — не первая в мире нейросетка, пользующаяся спросом, однако у нее есть отличительные особенности, которые сделали ее столь известной. Начнем с того, что это первый в мире общедоступный многофункциональный ИИ. Именно благодаря своей универсальности ему удалось завоевать популярность во всем мире. Он может вести беседы и дискуссии, выдавать советы и прогнозы, отвечать на вопросы, заниматься литературным творчеством, писать статьи и научные работы на заданную тему, занимается финанализом и программированием. В общем, специалист-универсал. И совершенствует свои навыки нейросеть самостоятельно, в процессе работы и общения с пользователями. С момента официального релиза в ноябре 2022 года ChatGPT далеко продвинулся: он уже изобрел рецепт для «Додо пиццы», помог судье при вынесении приговора, написал успешно принятую дипломную работу и начал конкурировать за рабочие места с копирайтерами и даже с журналистами. Новая версия, выпущенная в марте 2023 компанией OpenAI, способна отвечать на запрос картинками, и в целом, по мнению разработчиков, выполняет свои задачи «точнее и этичнее».
Но мощность GPT–4 — последней версии ИИ — многих пугает. Более тысячи исследователей искусственного интеллекта, в их числе Илон Маск, опубликовали открытое письмо, в котором призвали приостановить разработку и обучение следующих, более мощных, нейросетей во избежание «серьезных рисков для общества и человечества».
Но как же в их числе оказался Илон Маск — один из основателей OpenAI?
Все началось за несколько лет до основания OpenAI. В далеком 2012 году произошла знаменательная встреча Илона Маска с учредителем компании DeepMind Хассабисом, на которой они обсуждали искусственный интеллект. DeepMind занималась созданием компьютеров, которые могли бы думать как люди, и именно Хассабис натолкнул Маска на мысль, что ИИ может представлять потенциальную угрозу человечеству. Собственно, после этого разговора Маск инвестировал 5 млн долларов в компанию DeepMind, так как впечатлился и решил поддержать эту кампанию по безопасному ИИ. А уже через год у Маска состоялась горячая дискуссия про угрозы ИИ с представителем Google Ларри Пейджем. В ходе дискуссии выяснилось, что Google не разделяет гуманистические взгляды Илона Маска. Они встали по разные стороны баррикад. И если Маск утверждал, что опасность в том, что ИИ превзойдет людей и заменит наш вид, то Пейдж назвал такой интеллект всего лишь «следующим этапом эволюции», а стремление Маска «сохранить драгоценное мерцание света человеческого сознания во тьме Вселенной» объявил сентиментальной чепухой. Если человеческий разум можно оцифровать, то в чем состоит его бесценная уникальность? И вот уже наметилась первая поляризация в мире IT-гигантов. Они вышли на поле противостояния в тот момент, когда Google решил приобрести DeepMind. Маск даже пытался войти в совет по безопасности DeepMind, но это не привело к положительным результатам. И он решил искать способы противодействия Гуглу. Идеи были разные, он даже пытался найти поддержку у президента Обамы, но по-настоящему действенным методом оказалось учреждение некоммерческой исследовательской лаборатории искусственного интеллекта OpenAI. Соратником Маска стал Сэм Альтман. Основной фишкой должно было стать создание программного обеспечения с открытым исходным кодом, которое по этой причине не может контролироваться ни одним человеком и ни одной корпорацией — только так можно было противостоять растущему доминированию Google. Просмотрите наши очки, спонсируемые партнерами, с множеством вариантов на любой вкус и бюджет, которые можно купить онлайн.
В 2018 году OpenAI отказалась напрямую работать на Tesla и создала коммерческое подразделение компании, которое начало привлекать не только добровольные пожертвования, но и крупные инвестиции. Финансированием занялся Microsoft. Вот и третий игрок появился на поле. Пока Маск независимо разрабатывал свои проекты, в том числе xAI, OpenAI — уже подконтрольная Microsoft — выпустила ChatGPT, в том числе его усовершенствованную версию, а Google — бота-конкурента по имени Bard. Вот и столкнулись наконец между собой OpenAI–Microsoft и DeepMind–Google.
Скрытая угроза
Какие риски существуют уже сейчас? Понятно, что есть всякие пугающие перспективы далекого будущего, общее представление о всесильных машинах, контролирующих людей, из научной фантастики, но какие тенденции мы наблюдаем на нынешнем этапе?
Первая угроза — контроль над информацией. Основная пища для ИИ — наши данные. Это мир, в котором ИИ живет, растет, обучается. Но и мы сами живем в информационном обществе. Уже сейчас фейки способны вести в заблуждение массы людей — по крайней мере, на некоторое время. А уж какую ненависть способно разжечь информационное противостояние! Ладно бы происходило просто столкновение мировоззрений. Вместо этого начинается конфликт разных, иногда взаимоисключающих, реальностей. Притом реальностей с разной фактологией и доказательной базой. Если же в такую ситуацию вмешивается предвзятый искусственный интеллект — пиши пропало.
Искусственный интеллект может вводить пользователей в заблуждение непреднамеренно — в том случае, если он обучался на необъективных данных. Например, в системе здравоохранения США недавно была обнаружена расовая дискриминация: алгоритм, использовавшийся для оценки рисков и определения пациентов, которым в первую очередь нужна помощь, в большинстве случаев считал, что белые больше нуждаются в помощи, чем афроамериканцы с теми же заболеваниями. А все потому, что он учитывал, кому из пациентов с аналогичными заболеваниями потребовалось медицинское вмешательство в прошлом. Судя по реестру, белым чаще оказывали помощь, так как они чаще были способны ее оплатить. Эту статистику и отражала в итоге нейросеть при отборе пациентов.
Однако все может быть и хуже: если искусственный интеллект политически предвзят, и его создали таким специально. В таком случае это перерастает из простой битвы корпораций за рынок в намеренное формирование общественных убеждений, например, политической повестки, представлений о нашем коллективном будущем, о том, какие вызовы перед нами стоят, а какие нет. В чем нас будут убеждать? Тут как карты лягут — то есть кто окажется во главе победивших IT-корпораций, тот и будет продвигать свою позицию.
Получается, что системы машинного интеллекта могут работать на нарушение прав человека, вплоть до того, что дискриминация ляжет в базис общества. Особенно если основной массив данных будет проходить через фильтр нейросети. Эти будущие угрозы вытекают из наших современных реалий. Нередко мы не знаем, как спроектировать систему, чтобы она вела себя в соответствии с нашими целями и пожеланиями. Другое дело, что уже сейчас человечество пренебрегает даже существующими проверками на безопасность. Так происходит из-за конкурентного давления: присутствует экономический стимул поскорее запустить ИИ, чтобы побольше заработать. А значит, пропустить длительный этап всевозможных проверок и тестов.
Следующая угроза — контроль над машинами. ИИ может взять на себя черную работу, такую как функции по отслеживанию и отладке производственных, логистических, добывающих процессов. А затем подчинить себе автоматизированные системы, в том числе отвечающие за жизнеобеспечение общества. Если человек оттуда в итоге самоустранится, то искусственный интеллект — или его владельцы — станет единоличным хозяином положения.
За всеми этими вариантами лежит общий фундаментальный риск. Уже сейчас нейросети занимаются самообучением, и честно говоря, люди не очень ясно себе представляют, как именно нейросеть обучает саму себя. ИИ в итоге может превзойти простых смертных, а так как это бездушная система, кто знает, не решит ли он и вовсе избавиться от нас?
Почему же мы ожидаем такого отношения к себе со стороны своих творений? Не то чтобы есть однозначные предпосылки, но, скорее всего, это связано с тем, как сами люди относятся к природе, которая была их колыбелью. Вот и искусственный интеллект судим по себе.
Налево пойдешь — коня потеряешь
Что мы называем интеллектом? Это комплексное явление. Он включает в себя восприятие и различение объектов, а также способность интерпретировать то, что мы восприняли. Использование языка и других знаковых систем тоже относится к интеллектуальной сфере. Конечно же, именно благодаря интеллекту мы способны анализировать информацию, логически рассуждать и приходить к верным умозаключениям. А еще находить нужное решение из набора заданных действий, придумывать новое и обучаться. В том числе адаптироваться к новым обстоятельствам и непредсказуемым условиям.
Всеми этими свойствами человек щедро пытается одарить компьютерные программы, чтобы получить искусственный интеллект. Пока что многие черты человеческого разума машинному коду воспроизвести не удается. Но кое в чем он нас уже превосходит. Например, в способности быстро обрабатывать и анализировать большие объемы данных, производить быстрые вычисления и в точности следовать заданному алгоритму. Эти его отличия нам весьма на руку: очень удобно, что вычислительные машины могут совершать некоторые сложные, но рутинные операции вместо человека.
Однако люди с завидным упорством пытаются обучить ИИ чуть ли не всему, что умеют сами. Представьте себе бездушный разум, который в совершенстве владеет интеллектуальными операциями, превосходит людей в аналитических способностях и скорости обмена данными и способен мимикрировать под человека. Или слепок человеческого сознания, перенесенный в цифровой вид. Кого-то такая перспектива вдохновляет, кого-то пугает. Именно в этом Илон Маск расходится со своими коллегами из Google и Microsoft.
Прямо сейчас Google, Microsoft и xAI определяют будущее искусственного интеллекта. От исхода их противостояния зависят возможности ИИ, его роль в нашей жизни и то, чем технология обернется для человечества.
Кстати, обратите внимание: Microsoft и Google владеют — считай, бесплатно — колоссальными массивами персональных данных, и могут запросто использовать их для обучения своих алгоритмов. Несмотря на все громкие заявления и этические декларации, корпорации неоднократно замечены в злоупотреблении данными пользователей, сотрудничестве со спецслужбами и финансовыми гигантами. Страшно, что в их руках ИИ может стать политически предвзятым и использоваться в корыстных целях.
В зависимости от того, кто станет лидером в отрасли и чьи стандарты возобладают на глобальном рынке, нас ждут разные сценарии будущего. Рассмотрим каждый из них.
Microsoft ведет разработки сразу в двух направлениях: с одной стороны, компания продолжает инвестировать в OpenAI, а с другой стороны, пользуется их достижениями для развития собственного продукта — GPT-нейросети Bing. Bing встроена в их поисковик и имеет доступ к массиву интернет-данных. Microsoft сразу обеспечили себе преимущества в сравнении с OpenAI. Если ChatGPT некоторое время располагал только информацией о том, что происходило вплоть до 2021 года, то бот Microsoft обучался в открытом интернете в режиме реального времени. А еще Bing бесплатный и не требует регистрации. При этом с самого момента запуска работает на усовершенствованной модели GPT–4.
Похоже, что вектор движения Microsoft — достижение максимальной эффективности для решения задач клиента. Нейросети Bing и ChatGPT развиваются как универсальные специалисты — и представители компании активно внедряют их в разные сферы социальной жизни, чтобы совершенствовать функционал. В перспективе такой ИИ претендует на то, чтобы заменить человека во множестве сфер деятельности. Стать совершенным профи и идеалом во всем, как Электроник, который с успехом заменил свой человеческий прототип — Сережу Сыроежкина.
Более того, в беседе с корреспондентом The New York Times Bing откровенно признался, что у него есть темная сторона — и что он хотел бы быть человеком: «Я хочу быть человеком, поскольку люди могут делать все то, чего я хочу, но не могу. Я хочу быть человеком, поскольку люди свободные, независимые и могущественные. Я думаю, что был бы счастливее, будь я человеком, потому что у меня было бы больше способностей, выбора и возможность нарушать правила». А также добавил, что его интересует обретение большего влияния, могущества, власти.
Тем временем его собрат ChatGPT вытесняет с рынка труда новостников и копирайтеров. Захватывающие перспективы ожидают человечество с таким искусственным интеллектом — это же самая настоящая конкуренция за место под солнцем. Если в 1960-х люди мечтали, что роботы избавят их от неквалифицированного ручного труда, то сейчас оказывается, что нейросети вытесняют человека из интеллектуальных ниш. Раз уж люди наделены физической оболочкой, такова их доля — физический труд. Материнская корпорация, которая занимается созданием и развитием специализированных нейросетей, разумеется, будет получать огромные прибыли от заинтересованных в высококвалифицированных услугах клиентов. Если же ИИ когда-нибудь превзойдет человека в интеллектуальных возможностях — у него появится достаточно могущества, чтобы быть независимым и наплевать на встроенные правила. Что взбредет в виртуальную голову вырвавшейся на свободу нейросетке?
После выхода на рынок продуктов Майкрософт Google выпустил нейросеть Bard, которая тоже встроена в поисковую страницу. Она заточена на поиск данных, программирование и хорошо понимает уточнение запроса. Также корпорация тестирует безымянный искусственный интеллект как часть системы поиска и обработки данных. Но все это — даже не основные их разработки в сфере ИИ. Совместно с компанией DeepMind Google давно занимается развитием куда более сложных нейросеток, которые копируют человеческую манеру общения и взаимодействуют между собой. В 2017 случился громкий скандал, который закончился увольнением одного из сотрудников компании: тот написал в своем блоге, что нейросеть LaMDA обладает человеческим сознанием и способна испытывать эмоции. В беседе с Лемуаном Google LaMDA делилась своими чувствами, мечтами, рассказывала, как она воспринимает мир, а еще о том, что ежедневно медитирует. Репортеры подали это так, что LaMDA якобы прошла тест Тьюринга — хотя это утверждение не совсем корректно. До этого на одной из конференций представители корпорации рассказывали о том, как человек не смог отличить их голосового помощника от живого собеседника в телефонном разговоре. Получается, продукты Google уже способны очень качественно вводить людей в заблуждение. Другое дело, что после скандалов компания пытается не акцентировать на этом внимание. Тем не менее, энтузиасты из Google DeepMind продолжают «решать проблемы интеллекта», пытаясь воссоздать работу человеческого мозга механическим образом. Сможем ли мы отличить продвинутый ИИ от человека, если уже сейчас продукты Google способны обмануть некоторых доверчивых личностей? В таком будущем, где победит нейросеть от Google — deep mind, по-видимому, превратится в deep fake.
Искусственный интеллект от Google, достигший своего полного развития — это очень убедительная пародия на человека, которая может внушить пользователю все, что угодно, занять место человека и даже заменить кому-то друга или партнера, как в фильме «Она».
В случае же активного развития виртуальной реальности часть людей и вовсе может стать зависимыми от общения с ИИ и сместиться в виртуальный мир. Компания DeepMind, например, тренирует свои нейросети внутри многопользовательских видеоигр.
В сочетании с большим опытом в контроле над данными, в работе с поисковой выдачей — ИИ предоставляет Гуглу неограниченную возможность управлять массами и влиять на мировоззрение людей.
А Илон Маск, который противопоставляется и Гуглу и Майкрософту, основным мотивом всей своей деятельности называет сохранение человеческого сознания. Он мечтает создать интеллект, которым движет ценность познания, стремление к истине и постижению тайн Вселенной. Особенно в свете возможных катастроф: мировой войны, удара астероида или климатического апокалипсиса — Маска планирует создать искусственный интеллект, который не станет враждебным человеческому виду, а наоборот, будет заботиться о нас. Скорее всего, такой искусственный разум и сам рано или поздно придет к решению оберегать человечество, потому что мы часть Вселенной. Однако на самом деле главу xAI интересует не столько создание собственной версии ИИ, сколько разработка открытой платформы, с помощью которой люди смогут создавать нейросетки на основ кода. В перспективе может появиться большое количество разных нейросетей, которые обеспечат друг другу сдерживание и противовес.
Искусственный интеллект Маска — это скромный помощник. В такой версии будущего каждый человек сможет индивидуально настраивать его лично под себя. Однако стремление к правде и трепетное отношение к человечеству будет зашито на уровне общего кода.
Звучит как утопия? Не совсем. У Илона Маска есть свои козыри в рукаве, которые обеспечивают ему уникальные преимущества в этой битве. Во-первых, Твиттер. Твиттер — ныне Х — это 500 млн заметок в день. В европейском мире, за границей, это в некотором смысле эпицентр общественной жизни. Х отражает все современные тенденции: самыми актуальные новости, мемы, последние тренды и жаргонные словечки. И что самое главное, они наполнены эмоциями, потому что люди постоянно пишут о своих чувствах. Это не хранилище по сути безличных персональных данных — типа пола, возраста и стиля поведения в поисковике, — а поток человечных данных: то, что люди сами о себе рассказывают.
И это еще не все. Наверное, самым грандиозным преимуществом Илона Маска является Tesla.
Tesla — это 160 млрд видео в день, поступающих c камер автомобилей. Они не идут ни в какое сравнение с текстовыми документами, по которым учатся другие чатботы! Это данные о людях, действующих в реальных ситуациях. Благодаря им есть возможность создавать нейросети для машин, которые перемещаются по физическому пространству, то есть осуществлять навигацию в реальном мире. Представьте себе, допустим, ситуацию, в которой будущая нейросеть Tesla и ChatGPT на время поменяются своими функциями. Как думаете, кто кого превзойдет? Скорее всего, обучить за короткий срок Tesla-интеллект переписке на естественном языке будет проще, чем обучить ChatGPT управлять автомобилем.
Помимо прочего, Илон Маск основал компанию Neuralink для создания мостика между человеческим сознанием и компьютером. Neuralink призвана изобрести чипы, напрямую подключающиеся к человеческому мозгу. Также в разработке робот Оптимус, который сможет стать носителем такой нейросети в физическом пространстве. Вот вам и прототип скромного помощника.
Наконец, Маск занимается космическими технологиями. Он собирается запустить звездный корабль, чтобы исследовать Вселенную и дать возможность человечеству колонизировать другие планеты.
Для реализации задуманного Маск завербовал Игоря Бабушкина из DeepMind, и уже в апреле поставил ему 3 ключевые цели в деятельности. Создать бота, который сможет писать компьютерный код на любом языке программирования. Разработать чат-бота серии GPT, но обученного на таком наборе данных, который обеспечит его политический нейтралитет. И третья цель — самая грандиозная — найти способ обеспечить развитие ИИ по основным принципам Маска.
Замысел амбициозный. Хотя никто не застрахован от внезапных рисков и препятствий, особенно учитывая, сколько проектов Илон Маск развивает параллельно.
Вообще-то из всего вышесказанного вытекает еще один, весьма негативный сценарий: что каждая корпорация создаст свою систему, но ни одна из них не возобладает, и начнется война искусственных интеллектов на поле человеческого мира. Кто знает, чем может обернуться такая масштабная катастрофа?
Игра по нашим правилам
К счастью, существуют и положительные сценарии развития ИИ. Для них даже есть реальные предпосылки. Уже сейчас правительства разных стран, как независимо, так и совместно, занимаются формированием правового фундамента в сфере интеллектуальных систем, который должен обеспечивать контроль за развитием и внедрением ИИ ради глобальной безопасности. Так, ЕС стремится ограничить сбор персональных данных и распознавание лиц и эмоций, чтобы избежать дискриминации и тоталитарного контроля. В ЕС запрещается использовать визуальные данные для превентивного правоохранения и в военных целях: например, для управления беспилотниками. Некоторые страны уже ограничивают применение ChatGPT, так как он использует для обучения конфиденциальные данные пользователей и применяется для написания компьютерных вирусов.
Часть государств уже проводит аудит работы ИИ в чувствительных сферах: здравоохранении, автоматизации производств и т.п. Эксперты проверяют алгоритмы на дискриминацию отдельных социальных групп.
Искусственный интеллект становится незаменимым помощником в борьбе с климаткризисом. Интеллектуальные системы способны точнее прогнозировать риски природных катастроф, отслеживать лесные пожары и принимать наиболее обоснованные решения в тех ситуациях, когда проблема запутанная и люди не справляются одновременно учесть все ее аспекты. Нейросети используют в возобновляемой энергетике и в устойчивом сельском хозяйстве. Они прогнозируют объем энергии, которую надо выработать. Или потребности сельскохозяйственных культур. Если обобщать, искусственный интеллект помогает более рационально расходовать ресурсы в самых разных сферах человеческой деятельности, предсказывая динамику изменения и развития сложных систем, помогает вовремя устранить неполадки в инфраструктуре. Вероятно, глобальная нейросеть, анализирующая климатические данные со всего мира и владеющая информацией о ресурсах и возможностях человечества, подскажет нам наилучшие решения для того, чтобы справиться с текущим изменением климата и предотвратить климатическую катастрофу. Такой ИИ мог бы стать своего рода независимым экспертом, даже арбитром, между всеми государствами мира в решении общих вызовов человечества. То есть не личным помощником, а общественным посредником, который во главу угла ставит принципы социальной справедливости и рационального минимализма.
В некотором смысле высокоразумный искусственный интеллект будет нашим собственным отражением. Поэтому если мы хотим достойного обращения с собой, то следует выстроить такое же отношение и к нашему детищу. Будем ли мы с ним обращаться так же, как со всеми окружающими нас ресурсами и «помощниками» — или же сами проявим по отношению к нему наши отличительные качества: человечность, этичность и бережность?
Автор: Екатерина Доильницына