Временная шкала AGI от Ray Kurzweil: как он прогнозирует развитие на десятилетия вперёд

Почему прогнозы Kurzweil об AGI важны

Прогнозы Kurzweil об AGI важны, потому что превращают общее убеждение в прогрессе искусственного интеллекта в последовательность утверждений с конкретными сроками, которые можно проверить. Инвесторам, исследователям, журналистам и руководителям компаний полезнее спорить о точном прогнозе, чем о том, появятся ли когда-нибудь разумные машины.

Его подход также последовательно объясняет, почему прогресс может ускоряться. Более мощные компьютеры помогают исследователям создавать лучшие компьютеры. Более способное ПО помогает создавать, тестировать и запускать следующее поколение ПО. Снижение стоимости позволяет большему числу организаций экспериментировать, а это создаёт знания и спрос на новые инвестиции.

Такая структура не делает даты верными. Она делает ход рассуждений понятным. Читатель может изучить измерения, поставить под сомнение предположения и определить, какие данные усилят или ослабят прогноз.

Это различие важно, потому что долгосрочный технологический прогноз объединяет несколько разных предсказаний. Должно улучшаться оборудование. Алгоритмы должны превращать ресурсы в полезные возможности. Данные для обучения или альтернативные методы обучения должны оставаться доступными. Системы должны надёжно работать за пределами демонстраций. Организации и государства должны разрешать внедрение. Проблема на любом уровне может сдвинуть сроки AGI, не остановив развитие ИИ в целом.

Прогноз Kurzweil стал актуальнее, поскольку универсальные системы ИИ научились создавать тексты, программировать, интерпретировать изображения, вызывать инструменты и работать в разных областях. Эти способности делают обсуждение менее умозрительным, но не завершают его. Широкая компетентность в контролируемом интерфейсе отличается от надёжного общего интеллекта в открытой среде.

Поэтому полезный вопрос не в том, оптимист Kurzweil или пессимист. Важно, связывает ли его модель измеримые исходные данные со способностями, которые предполагает AGI, и выдерживает ли эта связь проверку инженерией, экономикой и человеческим поведением.

Кто такой Ray Kurzweil

Ray Kurzweil - американский изобретатель, автор, предприниматель и футуролог. Его прогнозы выросли из десятилетий работы над технологиями речи, чтения и музыки.

Его работа до дискуссии об AGI

Kurzweil получил известность благодаря практическим системам, а не одним прогнозам. Его компании занимались оптическим распознаванием символов, синтезом речи, распознаванием речи, электронными музыкальными инструментами и технологиями чтения для людей с нарушениями зрения. В этих областях требовался прогресс и в компьютерном оборудовании, и в распознавании образов, двух темах, которые позднее стали основой его метода прогнозирования.

Карьера также показала ему разницу между лабораторным результатом и продуктом. Точность распознавания, цены компонентов, скорость обработки, распространение и спрос пользователей влияют на то, когда изобретение становится полезным в большом масштабе. Этот опыт объясняет его внимание к кривым цены и производительности, а не к отдельным техническим демонстрациям.

Kurzweil пришёл в Google в 2012 году, чтобы работать над машинным интеллектом и пониманием естественного языка. Этот переход привёл его в организацию, которая активно вкладывалась в крупные вычислительные системы и исследования ИИ, хотя его основные прогнозы появились раньше этой работы.

Книги, на которых основана временная шкала

Kurzweil развивал свои аргументы в нескольких книгах. The Age of Intelligent Machines рассматривала направление развития компьютерного интеллекта. Вышедшая в 1999 году The Age of Spiritual Machines строила прогнозы вокруг будущих дат и описывала всё более тесное взаимодействие людей и компьютеров. Изданная в 2005 году The Singularity Is Near представила самую известную версию его тезиса об ускоряющейся отдаче.

Вышедшая в 2012 году How to Create a Mind подробнее сосредоточилась на познании и предположила, что механизмы распознавания образов могут помочь объяснить работу неокортекса. В The Singularity Is Nearer, опубликованной в 2024 году, он вернулся к прежним прогнозам после появления современного генеративного ИИ и сохранил ключевые даты, а не заменил их новым расписанием.

Не все эти книги одинаково определяют интеллект, но их объединяет одна мысль: информационные технологии улучшаются благодаря процессам с накопительным эффектом, и в итоге эти процессы сделают машинный интеллект сопоставимым с человеческим.

Эти термины нужно различать

Три термина часто смешивают, хотя они описывают разные утверждения:

• Искусственный общий интеллект - система, способная учиться, рассуждать и применять знания в широком круге незнакомых задач, а не работать в одной узкой специализации.
• ИИ человеческого уровня - производительность, сопоставимая с человеческой. Но такое утверждение должно уточнять, с какими людьми и задачами идёт сравнение, какая помощь разрешена и какой уровень ошибок считается сопоставимым.
• Технологическая сингулярность - предполагаемый Kurzweil период чрезвычайно быстрых изменений после того, как машинный интеллект и человеческие технологии станут достаточно мощными, чтобы преобразовывать общество быстрее, чем за ними успевают обычные прогнозы.

Машина может соответствовать одному рабочему определению ИИ человеческого уровня, но не удовлетворять строгому определению AGI. AGI также может появиться до того, как общество столкнётся с чем-то похожим на сингулярность. Если считать эти термины синонимами, временная шкала кажется точнее, чем она есть на самом деле.

Реальные сроки AGI по Kurzweil

Главный прогноз Kurzweil указывает на машинный интеллект человеческого уровня примерно к 2029 году и на технологическую сингулярность примерно к 2045 году.

Что означает прогноз на 2029 год

Kurzweil связывает 2029 год с прохождением машиной корректного теста Тьюринга и достижением интеллекта человеческого уровня. В оценке в духе теста Тьюринга человек-судья общается с невидимым собеседником и пытается определить, перед ним человек или искусственная система.

Слово корректный несёт здесь большую смысловую нагрузку. Короткие разговоры с неподготовленными судьями дают слабые доказательства, потому что система может имитировать человеческую речь, но не справляться с планированием, фактической последовательностью или незнакомой работой. Более сильная проверка включала бы квалифицированных оценщиков, длительное взаимодействие, вопросы с попытками ввести в заблуждение и защиту от заученных ответов или скрытой помощи человека.

Даже строгий тест Тьюринга измерял бы поведенческую имитацию в разговоре. Сам по себе он не доказал бы надёжную автономность, физическую компетентность, сознание или способность освоить любую интеллектуальную задачу. Более широкие работы Kurzweil подразумевают нечто большее, чем убедительный чат-бот, поэтому для оценки прогноза нужен более широкий набор этапов.

Что означает прогноз на 2045 год

Kurzweil связывает 2045 год с гораздо более крупным переходом, при котором машинный интеллект резко вырастет, а технологии глубоко встроятся в человеческую жизнь. Его рассуждения включают быстрое исследование с помощью ИИ, дальнейший рост вычислительных возможностей и более тесные связи между биологическим и небиологическим познанием.

Поэтому эта дата не сводится к предсказанию более быстрых компьютеров. Она зависит от того, будет ли интеллект создавать дальнейший технологический прогресс с исключительной скоростью. Улучшенный ИИ должен помогать развивать алгоритмы, оборудование, медицину, производство и научные открытия. Затем эти улучшения должны возвращаться в системы, которые их создают.

Петля обратной связи может ускорять прогресс, не становясь безграничной. Эксперименты всё равно требуют времени, у заводов есть графики строительства, физические процессы имеют пределы, а институты проверяют значимые изменения. Сила каждого ограничения определяет, будет ли улучшение выглядеть взрывным, просто быстрым или неравномерным в разных областях.

Этапы делают прогноз проверяемым

Несколько наблюдаемых способностей дали бы более сильные доказательства, чем один разговорный тест:

• Быстрый перенос навыков на незнакомые задачи при небольшом специальном обучении
• Надёжное планирование и восстановление в длинных последовательностях действий
• Непрерывное обучение без утраты ранее освоенных навыков
• Точное использование инструментов в меняющихся условиях реального мира
• Широкая экономическая полезность без постоянного надзора экспертов

Эти этапы сохраняют главную идею прогноза и позволяют избежать спора по принципу «да или нет» вокруг одной даты. Они также делают видимым частичный прогресс. Система может освоить инструменты, но плохо справляться с непрерывным обучением, или хорошо работать в ПО, но испытывать трудности в физической среде.

Точность прогнозов Kurzweil

В послужном списке Kurzweil есть заметные успехи, верные общие направления и ошибки, которые становятся видны, если оценивать прогнозы по их исходным формулировкам и срокам.

Явный успех в компьютерных шахматах

Один из самых часто упоминаемых успехов связан с шахматами. В 1990 году Kurzweil предсказал, что компьютер победит действующего чемпиона мира по шахматам к 1998 году. IBM Deep Blue обыграл Garry Kasparov в матче 1997 года.

Этот пример особенно убедителен, поскольку событие, соперник и срок были определены заранее. Он также касался формальной области с фиксированными правилами, измеримой производительностью и сильными стимулами улучшать специализированное оборудование и алгоритмы поиска. В таких условиях шахматы прогнозировать легче, чем интеллект открытого типа.

Результат показал, что машины могут превзойти лучших людей в сложной интеллектуальной задаче. Он не показал, что та же система способна перенести этот навык на другую проблему. Разница между выдающейся узкой производительностью и общей компетентностью остаётся центральной для спора об AGI.

Прогнозы, верные по направлению

Kurzweil предвидел широкое распространение портативных компьютеров, беспроводного доступа, цифровых документов, голосовых технологий для потребителей и систем ИИ, превосходящих людей в отдельных задачах распознавания образов. Общее направление этих прогнозов совпало с дальнейшим развитием.

Детали оказались менее единообразными. Портативные вычисления стали массовыми главным образом через смартфоны и ноутбуки, а не через точный набор носимых устройств, описанных в некоторых сценариях. Распознавание речи стало широко доступным, но непрерывная диктовка к 2009 году не заменила клавиатуры как основной способ создания текста для большинства людей. Цифровые медиа быстро расширялись, тогда как бумага сохранилась в офисах, образовании, государственных учреждениях и повседневной жизни.

Прогноз заслуживает частичного признания, когда основной переход происходит через другой продукт или схему внедрения. Но полное признание неуместно, если исходное утверждение включало неверный срок, масштаб распространения или форм-фактор. Направление и сроки отвечают на разные вопросы.

Прогнозы, которые сбывались медленно или остаются неопределёнными

В некоторых сценариях ожидались обычные иммерсивные виртуальные среды, очень убедительный машинный разговор и гораздо более тесная интеграция тела и компьютера раньше, чем это вошло в повседневное использование. Отдельные элементы этих идей появились в виртуальной реальности, вспомогательных устройствах, медицинских имплантах и генеративных моделях, но доступность отличается от широкого распространения.

Социальные предпочтения также могут разрушить технически осуществимый прогноз. Люди могут отказаться от устройства, если оно неудобное, дорогое, отвлекает, вызывает неловкость в обществе, плохо ремонтируется или слишком вмешивается в личную жизнь. Кривая производительности компонентов не отражает этих возражений.

Почему процент точности может вводить в заблуждение

Kurzweil провёл ретроспективную оценку прогнозов из ранних работ и сообщил о высоком проценте успеха по своей системе подсчёта. Это исследование не было независимым слепым аудитом, а многим утверждениям присваивались категории вроде «в основном верно» или «верно по направлению».

Любая честная оценка должна отдельно фиксировать четыре свойства:

• Точный предсказанный результат
• Срок и допустимое отклонение
• Измеримый порог успеха
• Выбрал ли оценщик критерии до того, как увидел результат

Предсказание цены транзистора оценить проще, чем утверждение о том, что компьютеры станут незаметными или разговор с машиной будет казаться нормальным. Объединение таких прогнозов в один процент скрывает большие различия в конкретности и сложности.

Как закон ускоряющейся отдачи создаёт этот прогноз

Закон ускоряющейся отдачи формирует временную шкалу Kurzweil, рассматривая технологическое улучшение как процесс с накопительным эффектом, в котором каждое поколение инструментов помогает создать следующее.

Линейные и экспоненциальные изменения

Линейный процесс добавляет одну и ту же величину в каждый период. Если система ежегодно получает 10 единиц мощности, она проходит путь от 10 к 20, затем к 30 и 40. Экспоненциальный процесс умножается на постоянный коэффициент. Пять удвоений превращают 10 единиц в 320.

Ранние стадии экспоненциального роста могут выглядеть скромно, потому что абсолютные изменения невелики. Поздние стадии кажутся внезапными, даже если темп умножения не изменился. Kurzweil считает, что человеческая интуиция обычно ожидает линейных изменений и поэтому недооценивает накопительный эффект информационных технологий.

Реальные технические кривые редко следуют идеальной экспоненте. Темпы роста меняются, измерения содержат шум, а отдельные методы достигают пределов. Утверждение состоит в том, что более широкий тренд цены и производительности может продолжаться через смену методов, даже когда один из них замедляется.

Соотношение цены и производительности важнее сырой мощности

Возможность, доступная только в дорогой исследовательской системе, имеет ограниченный охват. Когда стоимость падает, университеты, стартапы, крупные компании и отдельные люди могут проводить больше экспериментов. Более широкое использование создаёт спрос на инфраструктуру, выявляет режимы отказа и поддерживает бизнесы, которые финансируют дальнейшее развитие.

Поэтому Kurzweil часто рассматривает число вычислений на единицу стоимости. Новый процессор, который быстрее, но пропорционально дороже, может не расширить доступ. Система, выполняющая ту же работу с меньшим числом чипов, меньшими затратами энергии или меньшей моделью, способна изменить внедрение, не поставив рекорда по сырой производительности.

Для ИИ всё важнее стоимость проверенного результата, а не стоимость одной операции или токена. Дешёвая модель, которую приходится долго исправлять, может обходиться дороже за завершённую задачу, чем более дорогая модель с низким уровнем ошибок.

Смена парадигм продлевает кривую

Аргумент Kurzweil шире, чем постоянное продолжение масштабирования транзисторов. Механические калькуляторы, реле, вакуумные лампы, транзисторы, интегральные схемы, специализированные ускорители и распределённые системы можно рассматривать как последовательные способы обеспечить вычисления.

Когда один подход сталкивается с физическими или экономическими пределами, инвестиции могут перейти к другому. Поэтому историческая кривая способна продолжаться при смене механизмов. Это более сильное утверждение, чем закон Мура, но его труднее проверить, потому что категорию можно расширять всякий раз, когда конкретная технология останавливается.

Сразу несколько кривых должны усиливать друг друга

Одних вычислений недостаточно. На конечную способность влияют память, связь, эффективность ПО, архитектура моделей, качество данных и производительность исследований. Прогресс может ускоряться, когда улучшения усиливают друг друга, например когда лучшие алгоритмы уменьшают объём оборудования, нужный для задачи.

Возможна и обратная ситуация. Нехватка качественных данных, ограниченная подача энергии, пропускная способность памяти или слабая оценка могут оставить дорогие процессоры недоиспользованными. Прогнозы, основанные на одном растущем показателе, упускают эти взаимодействия.

Что подтверждают данные, а что нет

Данные убедительно подтверждают продолжающееся улучшение многих исходных факторов для ИИ, но не устанавливают фиксированную зависимость между ними и общим интеллектом.

Данные о вычислениях и алгоритмах

Долгосрочные данные показывают огромный рост соотношения цены и производительности вычислений, объёма хранилищ, пропускной способности сетей и возможностей ПО. ИИ также выиграл от специализированных процессоров, распределённого обучения, улучшенных числовых форматов, более качественной оптимизации и алгоритмов, которые достигают нужного результата с меньшими ресурсами.

Законы масштабирования дают ещё одну часть доказательств. В проверенных диапазонах и при заданной схеме обучения изменения размера модели, данных и вычислений могут приводить к относительно предсказуемым изменениям потерь при обучении. Эта предсказуемость помогает лабораториям планировать крупные запуски обучения и оценивать компромиссы между ресурсами.

Закон масштабирования не равен закону интеллекта. Более низкие потери при обучении не гарантируют правдивые ответы, согласованные цели, причинное понимание или успех в долгом проекте. Экстраполяция за пределы проверенного диапазона также предполагает, что распределение данных, архитектура и оценка остаются значимыми.

Данные о широких возможностях ИИ

Универсальные модели умеют выполнять задачи, для которых раньше требовались отдельные системы: писать тексты, переводить, интерпретировать изображения, создавать ПО, анализировать документы и вызывать инструменты. Одна модель часто переключается между этими видами деятельности по инструкции, без переобучения.

Такая широта важна для AGI, потому что ослабляет представление, будто для каждого интеллектуального занятия нужна отдельная специально разработанная программа. Она также показывает, что способности могут появляться вместе, когда модели учатся на разнообразных данных.

Остающийся разрыв связан с надёжной работой. Системы могут решить трудную проблему, а затем провалиться на более простом варианте, принять ложную предпосылку, выдумать источник или потерять ограничения во время долгой работы. Редкий успех доказывает возможность. Общий интеллект требует достаточно высокой доли успеха в незнакомых условиях.

Почему результаты бенчмарков нуждаются в контексте

Бенчмарки полезны, когда включают невиданные задачи, используют ясную оценку, защищены от попадания в обучающие данные и измеряют поведение, связанное с реальной работой. Они становятся менее информативными после того, как их вопросы попадают в обучающие данные или разработчики начинают напрямую оптимизировать правила подсчёта.

Надёжная программа оценки должна отделять тесты разработки от закрытых финальных тестов, фиксировать использование ресурсов, повторять испытания и сообщать распределение ошибок, а не только средние значения. Она также должна сравнивать системы с подходящими человеческими ориентирами. Сравняться с новичком в одном тесте совсем не то же самое, что сравняться с подготовленным специалистом при тех же ограничениях по времени и инструментам.

Проверки в реальных рабочих процессах добавляют сведения, которые пропускают статичные тесты. Они показывают, просит ли система недостающие детали, проверяет ли свою работу, восстанавливается ли после ошибки и понимает ли, когда ей следует остановиться. Для внедрения эти свойства важнее ещё небольшого прироста на уже насыщенном наборе тестов.

Исходные показатели измерять легче, чем результаты

У вычислений, хранилищ и пропускной способности есть стабильные единицы. У универсальности, суждения, адаптивности и здравого смысла их нет. Исследователи могут точно считать процессоры и при этом спорить, доказывает ли завершённая задача рассуждение или сложное сопоставление образов.

Это несоответствие измерений придаёт количественным прогнозам видимость точности, которую целевая переменная может не поддерживать. Более качественные данные об исходных факторах сокращают лишь одну часть неопределённости.

Предположения в прогнозе AGI на десятилетия вперёд

Сроки Kurzweil зависят от набора предположений, и дата может заметно сдвинуться, если не выполнится хотя бы одно из них.

Вычисления остаются экономически доступными

Прогноз предполагает, что организации смогут и дальше расширять полезные вычисления благодаря улучшению чипов, более крупным системам, лучшей загрузке или более дешёвому инференсу. На доступность влияют производственные мощности, капитальные затраты, электричество, охлаждение, память, сети и международная торговля.

Физическим пределам не обязательно останавливать прогресс, чтобы изменить сроки. Более медленный темп улучшений, сохраняющийся несколько лет, накапливается в большую разницу по сравнению с исходной проекцией.

Алгоритмы продолжают превращать ресурсы в способности

Дополнительные вычисления должны и дальше давать значимые улучшения. Это возможно за счёт масштабирования существующих методов, открытия более эффективных архитектур, улучшения целей обучения или объединения обученных моделей с поиском, памятью, инструментами и формальной верификацией.

Это предположение сильнее предсказания более быстрого оборудования. Алгоритмические открытия не появляются по регулярному графику производства, а их ценность может различаться между областями.

Обучение не блокируют ограничения данных

Будущим системам нужен полезный опыт. Он может поступать из созданных людьми материалов, мультимодальных наблюдений, симуляций, взаимодействий, синтетических примеров, обратной связи или экспериментов, проведённых самими системами.

Синтетические данные не заменяют внешние доказательства автоматически. Если модель создаёт материал на основе собственных ошибок и не получает корректирующего сигнала, обучение может закрепить эти ошибки. Симуляции также плохо переносятся на реальный мир, если упускают важные свойства среды.

Человеческое познание можно воспроизвести машинами

Kurzweil предполагает, что интеллект возникает из физических информационных процессов, которые можно понять и реализовать в небиологических системах. Его оценки часто сравнивают доступные вычисления с моделями мозга и рассматривают нейронауку как источник инженерных идей.

Такая позиция не требует копировать каждый нейрон. Она требует уверенности, что неизвестный биологический механизм не создаёт непреодолимого барьера. Оценки вычислений мозга различаются, потому что исследователи по-разному считают операции, синапсы, импульсы, биохимические процессы и эффективность обучения.

Лучший ИИ ускоряет исследования ИИ

Самые быстрые версии прогноза требуют, чтобы ИИ существенно помогал собственному улучшению. Написание кода - лишь одна часть этого цикла. Исследовательская система должна формулировать полезные гипотезы, разрабатывать эксперименты, интерпретировать отрицательные результаты и отличать реальный прогресс от переобучения под бенчмарки.

Самоулучшение также зависит от доступа. Способная модель не может перепроектировать оборудование, проводить крупные эксперименты или развернуть преемника, пока люди не предоставят ей ресурсы и разрешение. Интеллект может сократить некоторые шаги, сохранив внешние узкие места.

Что может задержать или переопределить AGI

AGI может появиться позже прогнозируемого срока, если надёжность, обучение, безопасность и внедрение станут ограничивающими факторами, даже при росте возможностей моделей.

Длинные задачи умножают небольшие ошибки

Система может выглядеть точной на отдельных шагах и всё равно проваливать большинство длинных проектов. Если каждый шаг независимо успешен в 99 процентах случаев, вероятность выполнить 100 обязательных шагов без ошибки составляет около 37 процентов.

В реальности ошибки часто коррелируют, и результат может быть ещё хуже. Неверное предположение в начале способно испортить каждое последующее действие. Поэтому прогресс зависит от обнаружения ошибок, пересмотра планов, сохранения состояния, проверки промежуточных результатов и передачи неоднозначных решений человеку.

По этой причине длительность автономной работы более показательна, чем качество одного ответа. Модель, которая выполняет проверенное восьмичасовое задание, меняет работу иначе, чем модель, которую приходится исправлять каждые несколько минут.

Непрерывное обучение остаётся сложным

Люди получают новые знания через опыт, сохраняя многое из уже известного. Развёрнутые системы ИИ часто разделяют обучение и использование. Чтобы обновить их, могут потребоваться новые наборы данных, оценка и ещё один цикл обучения.

Кандидат на AGI должен безопасно учиться во взаимодействии, не усваивая вредоносные инструкции, личные сведения или случайную ложь. Он также должен понимать, какие уроки относятся к одной ситуации, а какие можно обобщить. Решение этой задачи включает устройство памяти, контроль доступа, происхождение данных и защиту от катастрофического забывания.

Агентность создаёт проблемы безопасности

У модели, которая лишь предлагает текст, ограниченная поверхность действий. Система, которой разрешено отправлять сообщения, изменять ПО, тратить деньги, управлять оборудованием или учётными записями, может нанести ущерб из-за небольшого недопонимания.

Поэтому большая автономность повышает потребность в ограниченных разрешениях, контрольных точках одобрения, журналах аудита, изолированном выполнении и процедурах восстановления. Эти меры могут замедлять действия, но их удаление не улучшает интеллект. Оно перекладывает цену ошибок на пользователей и окружающих.

Физическая компетентность может отставать от цифровой

Интеллект, проявляющийся через ПО, выигрывает от быстрых и повторяемых сред. Физическая работа требует учитывать трение, поломки, неточные датчики, необычные предметы, меняющуюся погоду и безопасность людей.

Система ИИ может стать широко способной в исследованиях, анализе, коммуникации и работе с ПО до того, как роботы достигнут сопоставимой гибкости. Считать ли это AGI, зависит от определения. Требование человеческой адаптации в физическом мире устанавливает более высокую планку, чем требование общей умственной работы через компьютеры.

Институты могут требовать более сильных доказательств

Медицина, финансы, транспорт, государственное управление и критическая инфраструктура несут последствия, которые обычные бенчмарки не учитывают. Страховщики, регуляторы, суды, клиенты и профессиональные объединения могут требовать документально подтверждённой производительности, прежде чем разрешить автономную работу.

Такая задержка не покажет, что у базовой модели нет интеллекта. Она покажет, что способность и разрешение - разные этапы. Прогноз о технической осуществимости не должен молча предполагать немедленное общественное внедрение.

Главная критика подхода Kurzweil

Главная критика метода Kurzweil состоит в том, что надёжные тренды в информационных технологиях сами по себе не определяют дату появления плохо определённой когнитивной способности.

Выбор тренда может определять ответ

Длинная историческая кривая зависит от решений о том, какие технологии, цены и показатели производительности включать в набор данных. Объединение последовательных вычислительных методов может раскрывать реальную закономерность, но также даёт аналитику гибкость сохранять её после изменения направления у отдельного ряда.

Важны и даты начала и конца. Короткий период быстрого улучшения может выглядеть как постоянная экспонента, а долгий средний показатель способен скрыть недавнее замедление. Прогнозы должны публиковать исходные наблюдения и показывать, как меняются результаты при других временных окнах.

Интеллект может не быть одной масштабируемой величиной

Производительность растёт неравномерно в рассуждении, памяти, социальном суждении, восприятии, моторном контроле и фактической точности. Система может сильно улучшиться в одной области, оставаясь ненадёжной в другой.

Эта неравномерность ставит под вопрос сравнения между машинной мощностью и оценочной вычислительной мощностью мозга. Достижение числового порога операций не определяет алгоритмы, представления, опыт развития или архитектуру, нужные для эффективного использования этих операций.

Сложные системы переживают смену режимов

Исторические связи могут нарушаться при изменениях в инженерии, экономике или политике. Производство может стать дороже. Спрос на энергию может столкнуться с ограничениями локальных сетей. Регулирование может ограничить данные для обучения или внедрение. Потребители могут отвергать продукты, которые собирают чувствительную информацию.

Эти изменения не опровергают накопительный прогресс как общее наблюдение. Они ослабляют уверенность в календарной дате, выведенной из предположения, что прежний темп сохранится.

Рекурсивное улучшение не обязательно станет взрывным

Способный исследовательский ИИ может сначала найти лёгкие улучшения, а затем столкнуться с более трудными проблемами. Каждое поколение может давать меньший прирост, требовать более тщательной проверки или зависеть от физических экспериментов с фиксированной длительностью.

ПО иногда можно быстро копировать и тестировать, но производство чипов, клинические исследования, строительство и энергетическая инфраструктура работают по другим часам. Утверждению о сингулярности нужна модель этих ограничивающих процессов, а не только модель программного интеллекта.

Гибкие формулировки ослабляют опровержимость

Прогнозы трудно опровергнуть, когда такие термины, как интеллект, слияние, повсеместность или человеческий уровень, остаются открытыми для нового толкования. Разговорную модель, медицинский имплант и смартфон можно представить как частичное подтверждение широкой интеграции человека и машины.

Хорошее прогнозирование фиксирует правило оценки до наступления срока. Если исходный порог меняется после наблюдения результата, упражнение измеряет способность подстроить повествование, а не точность предсказания.

Как другие прогнозисты оценивают сроки AGI

Другие прогнозисты оценивают AGI через опросы экспертов, модели вычислительных ресурсов, тренды способностей, структурированные сценарии и рынки прогнозов. Каждый подход показывает разные источники неопределённости.

Опросы экспертов

Опросы спрашивают исследователей, когда они дают заданные вероятности появлению машинного интеллекта человеческого уровня или автоматизации определённых задач. Они отражают информированное мнение людей, близких к технологии, и могут показывать, как взгляды меняются после важных результатов.

Ответы сильно зависят от выборки и формулировки. Опрос авторов конференций по машинному обучению может отличаться от опроса, посвящённого робототехнике, нейронауке, безопасности или экономике. Вопрос о том, когда ИИ сможет выполнять большую часть оплачиваемой работы, не равен вопросу о том, когда он превзойдёт людей в каждой задаче.

Вопросы о вероятностях информативнее требования назвать один год. Прогнозист, который указывает даты для вероятностей 10, 50 и 90 процентов, сообщает распределение, а не скрывает неопределённость за точечной оценкой.

Модели на основе вычислений

Вычислительные модели оценивают ресурсы, нужные для воспроизведения значимых сторон человеческого познания, а затем прогнозируют, когда эти ресурсы станут доступными по цене. Подходы с биологическим ориентиром - одна из версий этого метода.

Расчёт достаточно прозрачен, чтобы его пересматривать, но неопределённость велика. Исследователям приходится оценивать вычисления мозга, требования к обучению, алгоритмическую эффективность, цены оборудования и долю познания, которую должна воспроизвести практичная система. Умножение нескольких неопределённых оценок может дать широкий диапазон дат.

Прогнозирование по способностям

Прогнозы по способностям отслеживают производительность на определённых задачах и оценивают скорость, с которой системы сокращают разрыв. Полезные цели включают проекты по созданию ПО, решение научных проблем, незнакомые игры, помощь в исследованиях и работу в интерактивных средах.

Этот метод близок к наблюдаемому результату. Его слабость в том, что прогресс на бенчмарках может не продолжиться с той же скоростью, а набор побед в отдельных задачах всё равно может упустить способность, необходимую для общего функционирования.

Сценарное планирование и рынки прогнозов

Сценарное планирование разрабатывает несколько внутренне согласованных будущих вместо выбора одного. Быстрый сценарий может сочетать эффективные алгоритмы, обильную инфраструктуру и успешные исследования с помощью ИИ. Медленный сценарий может включать убывающую отдачу, сложную инженерию безопасности или ограниченное внедрение.

Рынки прогнозов и прогнозные платформы создают стимулы для калиброванных оценок и позволяют обновлять взгляды после появления новых данных. Их польза зависит от чётких критериев разрешения. Рынок не сможет честно подвести итог, если участники не согласны, какое событие считать AGI.

Ни один метод не устраняет неопределённость определений. Сравнение прогнозов начинается с перевода их к одной цели, стандарту доказательств и уровню вероятности.

Сигналы, которые усилят или ослабят прогноз

Самые сильные сигналы будут измерять переносимую компетентность, устойчивую автономность, эффективность обучения, проверенную экономику и безопасное внедрение, а не внимание к отдельным демонстрациям.

Перенос на по-настоящему новую работу

Сильная система должна хорошо справляться с задачами, созданными после даты окончания её обучения и скрытыми от разработчиков. Она должна выводить незнакомые правила, запрашивать недостающую информацию и переносить знания из одной области в другую без отдельного проекта обучения.

Оценщики должны менять формулировки, инструменты, форматы данных и ограничения среды. Успех при таких изменениях лучше доказывает универсальность, чем запоминание знакомого стиля теста.

Более длинные горизонты автономных задач

Отслеживайте длительность и сложность заданий, выполненных по заданному стандарту приёмки. Полезный показатель включает повторные попытки, вмешательства человека, время на проверку и ошибки, после которых среда оказывается в худшем состоянии.

Рост максимальной длины одной демонстрации менее важен, чем рост медианной длительности надёжной задачи. Повторяемая производительность во множестве испытаний показывает, улучшились ли планирование и восстановление.

Меньшая стоимость принятого результата

Цены токенов и размер модели напрямую не измеряют бизнес-ценность. Стоимость принятого результата включает использование модели, инструменты, проверку, исправления, инфраструктуру и потери из-за ошибок.

Снижение проверенной стоимости в разных видах работы поддерживало бы аргумент об ускоряющейся отдаче, поскольку позволило бы больше экспериментировать и шире внедрять технологии. Высокие расходы из-за надзора или переделок ослабляли бы утверждения, основанные только на дешёвом инференсе.

Безопасное обучение после внедрения

Доказательства общего интеллекта стали бы сильнее, если бы системы могли усваивать новый опыт без неограниченного переобучения и без потери прежней компетентности. Тесты должны проверять, отличает ли система доверенные доказательства от манипуляций, сохраняет ли границы конфиденциальности и может ли объяснить происхождение нового убеждения.

Прогресс здесь устранил бы важное различие между статичными моделями и адаптивными сотрудниками. Неудача оставила бы организации зависимыми от внешних циклов обновления, даже если отдельные модели выглядят знающими.

Независимые операционные доказательства

Проверенные аудитом внедрения могут показать, приносит ли ИИ устойчивые улучшения в ПО, науке, поддержке, операционной деятельности и других областях. Полезные отчёты включают определения задач, базовую производительность, серьёзность ошибок, требования к надзору и полную стоимость.

Признаками против самых быстрых сроков были бы неизменная длительность надёжных задач, устойчивые ошибки на простых вариантах, рост инфраструктурных затрат на принятый результат или неспособность повысить безопасность без потери большей части полезной автономности. Это более сильные контрсигналы, чем временная пауза в одном бенчмарке.

Практические выводы для планирования

Практичный ответ на прогноз Kurzweil - готовиться к ускорению развития ИИ, не ставя бизнес, карьеру или политику в зависимость от одной даты.

Отделяйте текущие возможности от AGI

Организациям не нужен AGI, чтобы получать пользу от языковых моделей, программных агентов, анализа документов или автоматизированных процессов. Но им нужно сопоставлять каждый инструмент с ограниченной задачей и проверять, выполняет ли он её экономически выгодно.

Если называть AGI каждую полезную систему, это приводит к плохим решениям в обоих направлениях. Такой подход поощряет безрассудную автономность, когда модель ненадёжна, и ненужную задержку, когда ограниченное приложение под надзором уже работает.

Проводите обратимые эксперименты

Разумный процесс внедрения ограничивает цену ошибки:

• Определите задачу, ограничения и тест приёмки до выбора модели
• Оставьте значимые действия за явным одобрением, пока не измерена производительность
• Фиксируйте ошибки по серьёзности и причине, а не сводите их к одному среднему показателю
• Сохраняйте снимки, журналы и процедуры отката для восстановления
• Сравнивайте полную проверенную стоимость с существующим процессом

Этот подход полезен при быстром, неравномерном и медленном развитии ИИ. Он создаёт данные, которые помогают обновлять стратегию без веры в точную дату появления AGI.

Koder.ai предлагает один из способов провести такой эксперимент в разработке ПО. Его чат-интерфейс может создавать веб-приложения на React, сервисы на Go с базами данных PostgreSQL и мобильные приложения на Flutter. Режим планирования помогает определить работу до реализации, а снимки и откат упрощают отмену экспериментов. Экспорт исходного кода, развертывание, хостинг и поддержка собственных доменов позволяют команде протестировать приложение и сохранить практический контроль над результатом.

Эти возможности не зависят от заявления, что AGI уже появился. Они применяют современный ИИ к конкретному процессу с проверяемыми результатами. Основатель может создать прототип сайта, CRM, ERP или мобильного продукта, проверить его с пользователями и решить, оправданы ли дальнейшие инвестиции.

Планируйте по трём сценариям

Сценарий быстрого прогресса предполагает, что агенты вскоре станут надёжными в длинных заданиях. Подготовка должна сосредоточиться на проектировании разрешений, возможностях оценки, организационной интеграции и быстрых экспериментах.

Сценарий неравномерного прогресса предполагает высокую производительность в одних областях при сохраняющихся слабостях в других. Подготовка должна сосредоточиться на декомпозиции задач, передаче работы подходящей системе и сохранении проверки человеком там, где ошибки дорого обходятся.

Сценарий медленного прогресса предполагает, что нынешние методы столкнутся с серьёзными пределами. Подготовке стоит отдавать предпочтение инвестициям, которые улучшают и обычные процессы: более качественным данным, ясным процессам, модульному ПО и измеримому контролю качества.

Решение, которое работает во всех трёх сценариях, ценнее крупной необратимой ставки, успешной только при полной точности одного прогноза.

Задавайте точные вопросы о каждом прогнозе

Прежде чем действовать на основе прогноза об AGI, определите:

• Какое наблюдаемое поведение считается AGI?
• Какая вероятность привязана к названному году?
• Какие данные заставят прогнозиста сдвинуть дату?
• Какие технические или социальные ограничения исключены из модели?
• Как будет оценён прогноз, если результат появится в другой форме?

Временная шкала Kurzweil наиболее полезна как гипотеза о накопительном технологическом прогрессе. Её ценность в измерениях и предположениях, которые она предлагает изучить, а не в отношении к календарному году как к обещанию. Готовьтесь через ограниченные эксперименты, независимую оценку и обратимые решения, а затем меняйте курс, когда меняются данные.