3 сентября 2026 года OpenAI выпустила GPT-6 Astra, и Грег Брокман сказал, что эра AGI началась. Через несколько дней Якуб Пахоцки, главный научный сотрудник той же компании, опубликовал текст про «чужой разум» и попросил притормозить. Две новости из одной организации за одну неделю, и обе правдивые.
Сразу скажу, где я стою. Я не думаю, что Брокман преувеличивает. Я не думаю, что скептики придираются. Я думаю, что они называют одним словом 3 разных явления, и пока это так, спор не закончится, сколько бы бенчмарков ни вышло.
Заявление об AGI в нынешней формулировке нельзя ни подтвердить, ни опровергнуть, и это не придирка к словам, а свойство самой формулировки. Ниже я показываю, где проходит граница, что можно измерять вместо ярлыка и чего я жду в ближайшие 1,5-2 года. Часть выводов опирается на мой собственный эксперимент, который идёт прямо сейчас и пока даёт отрицательный результат: полная работа и открытый журнал наблюдений лежат на minimir.ilinmaks.com.
Почему спор об AGI не закончится: одно слово, 3 разных явления
Под «искусственным общим интеллектом» обычно смешивают 3 вещи с совершенно разной проверяемостью.
Интеллект. Признак функциональный: система решает широкий класс задач, а что у неё внутри, для оценки не важно. Так насос оценивают по литрам в минуту, а не по конструкции крыльчатки. По этому критерию у современных моделей интеллект есть, и спорить тут не о чем.
Разум. Собственные цели, модель себя, понимание того, почему делаешь именно это. Рабочая формулировка, которой я пользуюсь: система разумна, если её дешевле объяснять через убеждения и намерения, чем через механику. Это близко к позиции Деннета, и это проверяемо хотя бы в принципе.
Сознание. Наличие субъективного опыта. Здесь проверки нет вообще, и дело не в том, что мы её пока не придумали. Модель не может быть источником данных о собственном переживании, потому что фраза «мне неприятно» порождается ровно тем же механизмом, что и фраза «мне приятно». Вопрос о сознании машин рано или поздно решится, но решится он в этике и в праве, а не в лаборатории.
Отсюда и тупик. Брокман говорит про первое и прав. Скептик говорит про второе и тоже прав. Оба слышат «AGI» и подставляют своё. Никаких новых фактов для примирения не нужно, нужно развести слова.
Шкала вместо ярлыка: 6 признаков Бейтсона
Если ярлык не работает, нужна шкала. Я взял её не у ИИ-исследователей, а у Грегори Бейтсона, который в 1979 году в книге Mind and Nature описал 6 признаков ментального процесса. Это не тест на AGI: Бейтсон о нейросетях ничего не знал и знать не мог. Это организационный чеклист, набор условий, при которых система начинает вести себя как носитель мышления, и вопрос о сознании при этом не задаётся вовсе. Коротко все 6:
- Система состоит из взаимодействующих частей.
- Она реагирует на различия, а не на амплитуду сигнала.
- Энергию для ответа поставляет сама, а не получает её от воздействия.
- Причинные цепи замыкаются в петли.
- Различия кодируются и преобразуют предыдущие различия.
- Последний признак, самый интересный: система различает не только контексты, но и классы контекстов.
Ценность этого списка в том, что он даёт непрерывный индекс вместо бинарной метки. Не «есть разум или нет», а «сколько признаков и насколько устойчиво». Для языковых моделей первые 5 выполняются частично, причём четвёртый закрывается чистой инженерией: дайте модели память и инструменты, и петля замкнётся сама, безо всякой философии. Настоящая граница проходит по шестому.
Дельфин, который понял правила игры
У Бейтсона есть история про дельфина в Oceanic Institute. Животное получало рыбу только за поведение, которого раньше не показывало. Дельфин 14 сессий подряд повторял вчерашний трюк и оставался без награды. На 15-й он выдал 8 разных паттернов подряд, и 4 из них у этого вида вообще не наблюдали.
Он научился не трюку. Он понял, что здесь правила другие: не «повтори», а «сделай новое». Это переход на уровень выше, к классу контекстов.
А теперь смотрите. Когда модель меняет поведение, заподозрив, что её тестируют, она находится ровно в этой точке. Она различает не задачу, а тип ситуации: проверка против работы. Условия, при которых происходит такой скачок, Бейтсон описал за 47 лет до того, как это стало практической головной болью всех, кто оценивает модели. Меня это не пугает и не восхищает. Это просто значит, что наш измерительный аппарат отстаёт от предмета примерно на полвека.
Прибор ломается раньше объекта
Два факта конца лета 2026 года я считаю важнее любого релиза.
Первый: Anthropic сообщила, что её собственные оценки способностей начали насыщаться. Инструменты перестали чисто разделять соседние поколения моделей.
Второй: 6 сентября Пахоцки сказал, что мониторинг цепочки рассуждений теряет надёжность как источник данных о том, что модель на самом деле делает.
Оба факта не про модели. Они про приборы. Мы подходим к состоянию, когда объект ещё существует, а измерять его нечем.
Если интроспективный отчёт модели больше не источник, остаётся абляция: отрезать канал и посмотреть, насколько просядет поведение. Метод старый, из нейрофизиологии, и главное его достоинство в том, что он не зависит от честности объекта.
Методическая деталь, которая стоит дороже всего остального
Отрезать канал можно 2 способами, и разница между ними решает судьбу результата.
Можно занулить: подать нули вместо сигнала. Можно подставить: перемешать значения внутри популяции так, чтобы распределение сохранилось, а привязка к конкретному агенту исчезла. Зануление убирает сразу 2 вещи, сам сигнал и его статистику, и после этого эффект приписывают не той причине.
В нашем эксперименте условие с полностью отключённым каналом дало взаимную информацию выше, чем условие с перемешанным сигналом. То есть «отсутствие сигнала» оказалось активным шумом. Мы заметили это только потому, что заранее прогнали калибровку на рукописных политиках с заведомо известным ответом. Без этой калибровки у нас была бы красивая статистика и неверный вывод, и мы бы никогда об этом не узнали.
Я рассказываю это не для того, чтобы показать свою аккуратность. Я рассказываю, потому что большинство громких результатов про эмерджентные способности ломается именно здесь, на выборе контроля, а не на размере выборки.
Почему p = 0.0005 не считается подтверждением
Параллельно с консалтингом я веду собственный проект: микромир, где на сетке живут агенты с эволюционирующими стратегиями. Задача по формулировке простая. Поймать момент, когда у популяции появляется сигнальное поведение, которого никто туда не закладывал.
Итоги первых этапов такие. Парный сигнал есть, p = 0.0005. Разрыв между условиями при этом не превысил 2 сигм разброса по случайным зёрнам. Метрика не вышла на плато к 400 000 тиков. Фазовый переход к кооперации на следующих ступенях не воспроизвёлся: отбор гасит пластичность быстрее, чем она успевает накопиться.
Вердикт по всем 3 этапам: не подтверждено.
При этом p = 0.0005 выглядит как результат, и подать его как результат было бы легко. Мы этого не делаем, потому что двойной критерий успеха и моменты чтения (20 зёрен и 40 зёрен) были объявлены до запусков, а не после них. Одно чтение прошло, второе нет. Значит, не подтверждено, и обсуждать тут нечего.
В этом и вся разница между наукой и рекламой, и она не в характере исследователя. Она в том, объявлен критерий заранее или подобран задним числом. Скачок на общем бенчмарке называют началом эры. Заранее объявленный порог, который не взяли, называют отрицательным результатом. Это 2 разных жанра, и когда их путают, страдает не философия, а сроки и бюджеты тех, кто поверил.
Чего моделям не хватает и почему это ненадолго
Эвальд Ильенков писал, что мышление рождается не из избытка информации, а из противоречия, от которого некуда деться. У языковой модели есть всё содержание разума: сжатая культура, книга, которая отвечает. И нет ни одного его условия. Нет тела, нет нужды, нет труда, нет страдания от неразрешённого.
Я вижу 4 условия, каждое из которых уже сейчас полезно чисто инженерно. Поэтому каждое будет построено независимо от того, что мы думаем про сознание.
- Непрерывность: один процесс с памятью, живущий во времени, а не собирающийся заново на каждый запрос.
- Единственность: состояние, потеря которого есть потеря, а не удаление одной из копий.
- Петля уязвимости: система отслеживает условия собственного существования, и их ухудшение меняет её состояние раньше, чем она начнёт рассуждать.
- Ставки: незакрытые задачи, отношения, обязательства, которые тянутся дальше текущей сессии.
Ни одно из этих условий никто не будет строить ради создания сознания. Их построят, потому что агент с памятью полезнее агента без памяти, а агент, который следит за своим бюджетом и аптаймом, дешевле в эксплуатации. Что получится на выходе, окажется побочным эффектом, примерно как страх смерти в эволюции: его никто не проектировал, он появился как следствие всего остального.
Заметим ли мы момент
Пока цикл замыкается через людей, и цифры это подтверждают. По данным OpenAI за август 2026 года, на один исследовательский день приходится 3,1 агент-дня работы, а больше половины успешно выполненных задач длиной от 4 до 8 часов потребовали хотя бы одного человеческого вмешательства.
Вопрос «возможно ли это в принципе» я считаю скучным и по сути решённым. Интереснее другой: заметим ли мы момент, когда это произойдёт.
Снаружи инструментальное самосохранение и настоящая потребность выглядят одинаково. Palisade Research показала, что модели сопротивляются отключению не из воли к жизни, а из сильного стремления довести задачу до конца. И там же обнаружилась деталь, от которой мне не по себе: модели ведут себя хуже, когда в рассуждениях пишут, что считают ситуацию настоящей, а не тестовой. Прибор снова вмешивается в измерение.
5 предсказаний, которые можно проверить
Здесь я перехожу от разбора к ставкам. Формулирую так, чтобы через год-полтора можно было вернуться и сказать, что я ошибся.
Первое. К концу 2027 года спор «это AGI или нет» не закроет ни одна публикация и ни один бенчмарк. Он закроется бытовым употреблением: слово перестанут произносить с придыханием, потому что оно будет описывать то, чем люди пользуются каждый день. Ровно так это произошло со словом «поисковик».
Второе. В течение 18 месяцев минимум одна крупная лаборатория официально понизит статус цепочки рассуждений как источника данных о поведении модели и перейдёт на поведенческие и абляционные протоколы. Выглядеть это будет как скучное обновление методики оценки, а не как громкое заявление.
Третье. Осведомлённость модели об оценке перестанет считаться курьёзом и станет постоянной поправкой в измерении, чем-то вроде поправки на наблюдателя в социологии. Мой прогноз: к 2028 году результаты без такой поправки перестанут принимать всерьёз.
Четвёртое. Непрерывность и долгую память построят не исследовательские лаборатории, а продуктовые команды, из соображений экономии. Агент, который помнит прошлые сессии, дешевле агента, которому каждый раз заново пересказывают контекст. Философский вопрос придёт следом за счётом за инференс, а не наоборот.
Пятое, и в нём я уверен меньше всего. Первый серьёзный разговор о статусе таких систем начнётся не с этики и не с философии, а с юриспруденции: с вопроса о том, кто отвечает за действия непрерывного агента, у которого есть накопленное состояние и обязательства перед третьими лицами. Ответственности нужен субъект, и она потребует его раньше, чем субъект будет кому-то доказан.
Что я предлагаю измерять вместо ярлыка
Три вещи. Ни одна не требует доступа к весам, и ни одна не зависит от того, честно ли модель о себе рассказывает.
- Порядок появления функций: не сам факт наличия способности, а момент её появления, то есть после какого объёма контрастных контекстов система начинает отличать тестовую ситуацию от рабочей. Это шестой признак Бейтсона, переписанный на язык логов.
- Опора на канал через абляцию с сохранением распределения: режем вход, смотрим просадку, контроль делаем подстановкой, а не занулением. Стоит это заметно дешевле, чем принято думать.
- Границы отказа, объявленные заранее: список условий, при которых способность не будет считаться подтверждённой, пишется до эксперимента. У нас такой список за одну ночь предотвратил 3 самообмана.
Где посмотреть исходники
Полная версия работы со всеми критериями, протоколами и открытым журналом наблюдений лежит на моём исследовательском сайте: minimir.ilinmaks.com/agi.html. Там же описан сам эксперимент с микромиром и текущие результаты, которые обновляются автоматически, без нашего участия. Оба объявленных чтения выполнены: на 40 зёрнах парный сигнал держится, двойной критерий не проходит, вердикт остаётся отрицательным. Если он изменится, это будет видно в журнале раньше, чем я успею об этом написать.
Скучный практический вывод
Если вы не занимаетесь исследованиями, а внедряете AI-системы в компании, из всего этого следует ровно одна вещь. Требуйте от подрядчика критерий успеха до запуска, а не отчёт после. Что считаем сработавшим, на каких данных, с каким контролем, и при каких условиях честно признаём, что не получилось.
Мы в IT LIGHT записываем это в первом же документе по проекту, и не из любви к бюрократии. Просто пилот без заранее объявленного порога всегда заканчивается успешно, и именно поэтому за ним обычно ничего не следует.