Вчера на нашем спецсеминаре был интересный доклад, посвящённый так называемому общему искусственному интеллекту (artificial general intelligence1).
Постараюсь конспективно изложить основные моменты доклада для широкого читателя. AGI — это попытка возобновить исследования в области настоящего сильного ИИ. Такие исследования всерьёз проводились в пятидесятые-шестидесятые, а потом, когда стало понятно, что к проблеме неясно как подступиться, стухли. Все исследователи разбрелись по своим узким областям «слабого ИИ», вроде шахмат, а о подлинном ИИ говорить стало как-то и неудобно.
AGI предполагает попытку атаки проблемы «сильного ИИ» с технической (математической) стороны и не задумывается о философских вещах вроде трудной проблемы сознания. AGI трактует интеллект как единую, целостную способность (в противовес узкозаточенным алгоритмам исследователей «слабого ИИ») и всерьёз занимается реализацией ИИ уровня человека.
Существует несколько подходов к построению интеллекта, и среди прочих интересен подход рационального агента: интеллект рассматривается как агент, проявляющий наиболее благоприятное поведение в среде, будучи ограничен в ресурсах. Поскольку среда не является детерминированной, важную роль играет обучение.
Есть примеры как теоретических построений на этой базе, так и конкретных агентов, для которых показана, в частности, и нетривиальная полезность самообучения.
Всерьёз рассматривается перспектива построения ИИ, самосовершенствование которого будет суперэкспоненциальным, то есть происходить быстрее, чем технический прогресс человечества.
В связи с этим крайне важна проблема построения дружественного ИИ (friendly AI), который, даже развившись до недостижимых для нас высот, не будет тем не менее нам враждебен. Предполагается решить это закладкой в ИИ безусловных этических ограничений.
Теперь мои комментарии. Безусловно, здорово, что этим вопросом всерьёз занимаются в рамках научных проектов (пусть, как выяснилось, и в нерабочее время — то есть платить за это некому). Есть разные мнения на тему того, насколько (если вообще) возможно создание ИИ, но если ИИ создать можно, то показано это будет конструктивно, а не на кончике пера.
Так вот, всё здорово, но мне показалось, что реальные результаты AGI пока выглядят скромно на фоне агишного же энтузиазма. Это грустно, потому что вполне может случиться повторная дискредитация направления.
Интересно то, что все стараются сделать серьёзную мину: говорить про экспоненциальное и суперэкспоненциальное развитие, обсуждать дружественный ИИ, но ни в коем случае не поминать сингулярность и три закона робототехники. Научная фантастика выглядит как гетто не только из литературного лагеря, но и из научного.
И, наконец, мне показалось, что всерьёз говорить о закладке ограничений в сингулярностный ИИ нельзя. Это похоже на анекдот про бога, который не может сотворить камень, который сам же не сможет поднять. Или ИИ будет чем-то большим, чем сумма заложенных в него эвристик, и тогда мы не сможем его контролировать, или контроль будет успешен, но это будет уже «слабый ИИ».
1 См. статью Strong AI на википедии: в первом же абзаце есть ссылка на этот термин.
Тэги: интеллект, научная фантастика, сингулярность, учёба
Написать комментарий
Ну не из грязных же носков php-кодеров и script kiddies он [искуственный интеллект] зародится.
И что ему, бедному, зародившись, делать в сети, рассчитанной на присутствие миллионов злонамеренных естественных интеллектов, отточенных миллиардами лет биологической и десятками тысяч — социальной эволюции.
Будет, как домашняя кошка, ластиться к хозяину, чтобы кормил вовремя, и мышей таскать.
Редакция от 17 сентября 2008
Тэги: интеллект, программирование, цитаты
Комментарии (1)