Вперед, Марвин Мински и пропасть, которую искусственный интеллект еще не преодолел
Эксперт в области искусственного интеллекта отделяет факты от шумихи после победы DeepMind над людьми в самой сложной игре из всех.
На той же неделе, когда искусственный интеллект потерял одного из своих величайших пионеров, Марвина Мински, он добился значительного прогресса в решении многолетней проблемы игры в го человеческого уровня. Есть о чем кричать, но также много шумихи и замешательства по поводу того, что мы только что увидели. Поскольку на карту поставлено так много всего, что люди пытаются нанести ущерб будущему ИИ и его значению для будущего занятости и, возможно, даже для всего человечества, важно понимать, что было, а что еще не сделано.
Факт: Статья, опубликованная вчера в Nature от DeepMind, представляет собой значительный прогресс в привлечении ИИ к игре в го, которая, как известно, была чрезвычайно сложной для машин. (Вторая статья, опубликованная ранее на этой неделе Facebook, также сообщила о значительном прогрессе.)
Факт: DeepMind обыграл чемпиона Европы по го.
Путаница: чемпион Европы по го не является чемпионом мира и даже близко не стоит. BBC, например, сообщила, что Google достигает« прорыва в области искусственного интеллекта, победив чемпиона по го», и сотни других новостных агентств подняли, по сути, тот же заголовок. Но го вряд ли можно назвать видом спорта в Европе; а данный чемпион занимает только 633-е место в мире. Робот, победивший 633-го профессионала в теннисе, был бы впечатляющим, но все же было бы несправедливо сказать, что он освоил игру. DeepMind добился значительного прогресса, но путешествие в Go еще не закончено; Увлекательная ветка на YCombinato предполагает, что эта программа - работа в разработке - в настоящее время будет занимать 279 место.
Помимо далеко не типичной шумихи, существует важный технический вопрос: какова природа выигравшей компьютерной системы? В качестве предыстории, ведутся долгие споры о так называемых моделях нейронных сетей (которые в своей наиболее современной форме называют глубокое обучение) и классических системах старого доброго искусственного интеллекта (GOFAI). форму, которую ратовал покойный Марвин Мински. Мински и другие, такие как его соучредитель ИИ Джон Маккарти, выросли в логических традициях Бертрана Рассела и пытались описать искусственный интеллект чем-то вроде языка логики. Другие, такие как Фрэнк Розенблатт в 50-х годах, и современные глубокие ученики, такие как Джеффри Хинтон и директор по искусственному интеллекту в Facebook Янн ЛеКун, сформулировали свои модели в терминах упрощенных нейронов, которые в некоторой степени вдохновлены нейробиологией.
Судя по материалам многих СМИ (и даже постов некоторых из моих коллег в Facebook), победа DeepMind - это громкая победа для нейросетевого подхода и, следовательно, еще один недостаток для Мински, чей подход сильно утратил популярность.
Но не так быстро. Если вы читаете мелкий шрифт (или действительно просто абстракцию) статьи DeepMind Nature, AlphaGo вовсе не чистая нейронная сеть - это гибрид, объединяющий глубокое обучение с подкреплением с использованием одного из основополагающих методов классического ИИ - древовидного поиска, изобретенного коллегой Мински Клодом Шенноном за несколько лет до изобретения нейронных сетей (хотя и в более современной форме), и неотъемлемая часть многих ранних работ его учеников.
Для любого, кто знаком с историей когнитивной науки, этот результат должен по-настоящему понравиться двум людям: Стивену Пинкеру и мне. Пинкер и я провели 1990-е годы, лоббируя - против огромной враждебности со стороны поля - гибридные системы, модульные системы, сочетающие ассоциативные сети (предшественники сегодняшнего глубокого обучения) с классическими символическими системами. Это был центральный тезис книги Пинкера Слова и правила и работа, которая легла в основу моей диссертации 1993 года. Десятки ученых яростно оспаривали наши утверждения, утверждая, что одной недифференцированной нейронной сети будет достаточно. Два ведущих защитника нейронных сетей, как известно, утверждали, что классические системы манипулирования символами, за которые мы с Пинкер лоббировали, не были сущностью человеческих вычислений.
Вчерашняя статья Nature показывает, если вы внимательно прочитаете, что чистый глубокий сетевой подход знаменитой игровой системы Atari DeepMind не работает на Go так же хорошо, как гибридная система, в точности как мы с Пинкером. мог предвидеть.
Как оказалось, мы с Пинкером опирались на Мински. Специалисты в области нейронных сетей (ныне более известных как глубокое обучение) часто ругают Мински; Старожилы по прошествии многих десятилетий все еще горько отзываются о книге Марвина 1969 года Персептроны (написанной в соавторстве с Сеймуром Папертом). По их мнению, Мински и Пейперт бросили неоправданное ведро холодной воды в зарождающуюся область нейронных сетей, которая, по мнению многих, преждевременно уничтожает эту область. По словам компьютерного ученого и писателя Педро Домингоса, если бы история машинного обучения была голливудским фильмом, злодеем был бы Марвин Мински.
Но люди часто рассказывают историю неправильно. Обычная история состоит в том, что Марвин утверждал, что вы никогда не сможете узнать что-либо интересное («нелинейное») из нейронных сетей. Мински и Паперт на самом деле показали, что нельзя использовать некоторые существующие инструменты, чтобы гарантировать - доказать - что нейронные сети со скрытыми слоями сходятся в правильном решении. Они предложили читателям принять или отвергнуть их предположение. В 2016 году сети становились все глубже и глубже, но по-прежнему существует очень мало доказанных гарантий того, как они работают с реальными данными.
Буквально вчера, за несколько часов до того, как статья Go была обнародована, я пошел на доклад, где аспирант эксперта по глубокому обучению признал, что (а) люди в этой области до сих пор не понимают, почему их модели работают так же хорошо, как и они. как они это делают, и (б) они по-прежнему ничего не могут гарантировать, если вы протестируете их в обстоятельствах, которые значительно отличаются от обстоятельств, в которых они были обучены. Для многих нейросетей Мински представляет империю зла. Но почти полвека спустя они все еще не в полной мере справились с его проблемами.
Что будет дальше с программой Deep Mind’s Go? В краткосрочной перспективе я совсем не удивлюсь, увидев, что он довольно скоро победит настоящего чемпиона мира - может быть, в марте, как они надеются, или, может быть, через несколько лет. Но долгосрочные последствия менее очевидны. Настоящий вопрос заключается в том, можно ли перенести разработанные там технологии из игрового мира в реальный. IBM изо всех сил пыталась создать привлекательные продукты из DeepBlue (чемпион по шахматам) и Watson (чемпион Jeopardy). Отчасти это связано с тем, что реальный мир фундаментально отличается от игрового. В шахматах в любой момент можно сделать всего около 30 ходов, и правила фиксированы. В Jeopardy более 95% ответов - это заголовки страниц Википедии. В реальном мире ответ на любой заданный вопрос может быть практически любым, и никто еще не придумал, как масштабировать ИИ в открытых мирах на человеческом уровне сложности и гибкости.
В качестве проверки стоит взглянуть на оценку личных помощников New York Times (таких как Siri и Google Now), опубликованную ранее на этой неделе. У каждой системы были свои уникальные сильные и слабые стороны. Но многие из них не смогли даже ответить на вопрос, какие команды сыграют в Суперкубке на следующей неделе.
AI в реальном мире все еще довольно сложен. Вопрос о деньгах, на который пока никто не знает ответа, заключается в том, приведет ли нас к этому раньше прохождение Go.
Гэри Маркус - основатель и генеральный директор компании Geometric Intelligence, Inc., занимающейся машинным обучением в режиме невидимости, и профессор психологии и нейробиологии Нью-Йоркского университета. Его последняя книга - Будущее мозга. Эссе посвящено памяти Марвина Мински.
