Парадокс искусственного интеллекта
Если почитать фантастические романы (и даже научно-популярные статьи), написанные лет этак 40 назад, в частности и в Советском Союзе, то одно из важных достижений будущего, которых касались писатели – это искусственный интеллект.
Вот прошли десятки лет, а воз и ныне там. Искусственный интеллект, если его понимать, как самостоятельно мыслящую систему, все еще не создан. Случайность или закономерный ход событий? Предлагаем вашему внимание мнение одного из участников конгресса Global Future 2045, старшего научного сотрудника НИИЯФ МГУ Александра Панова, высказанное им во время лекции на конгрессе.
Александр Панов:
Мое мнение состоит в том, что надежды на искусственный интеллект очень сильно переоценены.
В основном надежды на возникновение искусственного интеллекта, более сильного, чем человеческий, связаны … с законом Мура, ростом мощности аппаратной базы (т.е., имеется в виду, что в какой-то момент мощность аппаратной базы достигнет мощности мозга – РЕД.). У меня возникают два вопроса к этой кривой. Первый вопрос: как оценивалась мощность мозга, скорость, с которой работает мозг? Она оценивалась на количестве нейронов, количестве синапсов и частоте срабатывания синапсов. Это очень примитивная оценка. Вот возьмем амебу. У нее вообще нет нервной системы, а она обладает, тем не менее, очень сложным поведением. И все эти информационные аспекты, которые есть у амебы, должны присутствовать и в мозге. Поэтому, скорее всего, скорость работы мозга очень сильно недооцененная величина, может быть, на десяток порядков (если возможности амебы оценивать вышеупомянутым образом, через нейроны и синапсы, то они должны быть нулевыми, а это не так. Поэтому, вероятно, и для мозга все оценки очень занижены. — РЕД). И, второе, самое главное: закон Мура и рост мощности аппаратной базы дают только необходимые, но не достаточные условия возникновения мощного искусственного интеллекта.
Я просто прочитаю одну цитату: «За прошедшие 15 лет разум наших электронных вычислительных машин улучшился в миллионы раз. В течение нескольких десятилетий следует ожидать увеличения характеристик разума машин по крайней мере в несколько десятков тысяч раз. Разум таких машин по основным параметрам будет заведомо превосходить разум человека». Это было написано в 1975 году, и такие слова говорили непрерывно на протяжении развития компьютерных технологий. И говорят сейчас в той же самой форме и теми же словами. С чем связана эта ошибка? Она связана с тем, что необходимое программное обеспечение гораздо более консервативно, на много порядков величин, чем развитие аппаратной базы.
Есть несколько примеров такого консерватизма, я на этом останавливаться не буду. Хочу только отметить, что те технологии, которые сейчас используются при программировании искусственного интеллекта — нейронные сети, эвристическое программирование, экспертные системы, эволюционное программирование, — были изобретены более пятидесяти лет назад и с тех пор не было придумано ничего принципиально нового. В области программирования искусственного интеллекта наблюдается глубочайший застой. И видимо, дело в том, что мы просто не понимаем, как на самом деле думает человек. (некоторые примеры и пояснения см. ниже после подзаголовка «Непростое сознание»).
Непростое сознание
Какие проблемы мешают создать искусственный интеллект на основе компьютера? По мнению Александра Панова, компьютер обрабатывает информацию, человек обрабатывает смыслы. По умолчанию предполагается, что смыслы могут быть выражены информационным образом, но никто никогда не доказал, что это так. Простой пример: если смысл представляется квантовыми состояниями, то это не есть информация. Потому что важнейшим свойством информации является то, что она может быть скопирована, сдублирована. А квантовые состояния, согласно соответствующей теореме о клонировании состояний, скопировать невозможно.
Это лишь один пример, но на самом деле ситуация может быть гораздо хуже. Существует теорема Роджера Пенроуза, она состоит в следующем: существует очень много активностей человеческого мозга, которые не могут быть представлены активностью компьютера, но очень трудно доказать, что это действительно невозможно.
Однако есть исключения. Можно доказать строгую теорему, что любой конечный автомат, основанный на любых известных в настоящее время физических принципах, не может представить некоторые формы математической активности мозга (эта теорема — родственница первой теоремы Гёделя о неполноте). Из теоремы следует: чтобы создать искусственный интеллект, превосходящий по мощности человеческий, нужно открыть неизвестные физические принципы. Предсказать же, когда они будут открыты, не представляется возможным.
Комментарии
- ответить
13:08, 18.05.2012 № 1"...существует очень много активностей человеческого мозга, которые не могут быть представлены активностью компьютера..."
А может оно и к лучшему, а то в фантастических произведения последствия создания искусственного интеллекта описаны не очень радужные
- ответить
00:51, 16.07.2014 № 2Для искусственного интеллекта нужна особая аппаратная часть. Человек думает так: Если я бодрствую И если я вижу И если я вижу текст И если я умею читать И если я понимаю... и так далее. После этого уже реакция.
В аппаратной части киборгов должны быть миллиарды интегральных микорсхем. Поэтому киборги будут все управляться через 4G сверхразумом. Вычислительную мощь ИИ может взять из кластера всех в мире андроид смартфонов, каждый из которых обладает ядром с 1 ГГц. А устройств Андроид миллиард. Добровольцев будет куча...
Добавьте свой комментарий