Об угрозе искусственного интеллекта (Artificial Intelligence), потенциале создания «сверхразума» и прогнозах на два века вперед.
О разнице между мозгом и компьютером
Ученые совершили ошибку 50 лет назад. Они думали, что искусственный интеллект можно создать, представив мозг как компьютер. Но в мозге нет операционной системы, нет Windows, программ, центрального процессора – ничего, что есть в компьютере, кроме, конечно, электричества. Теперь пришло понимание, что мозг – это обучающаяся машина, ищущая повторения, паттерны.
Компьютеры логичны, поэтому повторяют одно и то же снова и снова, и можно сказать, что они будут делать в будущем. А мозг непредсказуем: хотя и устроен весьма сложно, но, случается, совершает ошибки. У нас бывают галлюцинации, мы слышим и видим то, чего нет. Взять облака. Мы видим в них Микки Мауса, Дональда Дака...
Можно провести эксперимент. Зайдите в совершенно темную комнату, куда не проникает шум. Включите жуткий звук и пощекочите ступню пером – вы закричите, потому что покажется, будто к вам прикоснулся призрак. Но компьютер так не поступил бы. Он бы просто зарегистрировал входной сигнал.
Но почему мозг ошибается? Потому что ошибки – это побочный продукт эволюции. Когда дело касается обработки информации, эволюция ищет короткие пути. Иначе человечество бы как вид не выжило! Те, кто ошибались, исчезли. Мозг ищет паттерны, он построен не на логике. Тут наука тоже просчиталась.
О подходах к AI
Есть два подхода к искусственному интеллекту: «сверху вниз» и «снизу вверх». На протяжении 50 лет мы применяли подход «сверху вниз»: пытались перевести в программный код законы логики и здравого смысла, правила распознавания паттернов – и записать их на компакт-диск. Вставляешь этот диск в компьютер, и он говорит: «Я думаю, я осознаю, я живой». Такая была мечта, но из этого ничего не вышло.
Продолжение следует…
Валерий Смирнов
Обратная связь