Ученые предложили чеклист, с помощью которого мы сможем понять, обрел ли ИИ осознанность. Это документ на 120 страниц, в конце которого из 6 теорий сознания выводятся 14 сложных критериев сознания, которые (гипотетически) можно применить к существующим архитектурам ИИ.
Сложность в том, что «работу мозга» ИИ нельзя проанализировать так, как человеческого – с например, с помощью МРТ. Но пока что ни одна нейронка не смогла «вычеркнуть» из чеклиста более одного или двух пунктов; и ученые сильно сомневаются, что в ближайшем будущем в этой области случится какой-то прогресс.
“Исследователи предполагают, что чем большему количеству выведенных показателей соответствует архитектура ИИ, тем больше вероятность того, что она сможет обладать сознанием. Эксперт по машинному обучению на базе Mila Эрик Эльмознино применил контрольный список к нескольким ИИ с различными архитектурами, включая те, которые используются для генерации изображений, такие как Dall-E2. Это требовало вынесения вполне конкретных суждений и уверенной навигации по «серым зонам».
выдержка с сайта science.org
Многие архитектуры смогли вычеркнуть из чеклиста галочку для индикаторов из теории повторяющейся обработки. Один из вариантов типа большой языковой модели, лежащей в основе ChatGPT, был близок к тому, чтобы продемонстрировать еще одну особенность – наличие глобального рабочего пространства.”