СИЛЬНЫЙ ИИ
В шестом нумере «Науке и жизни» за этот год Ярослав Веров (псевдоним донецких писателей-фантастов Г. В. Гусакова и А. В. Христова) пишет мне понятное:
«Я бы сказал, что главное отличие человеческого разума – воля к иррациональным действиям. Например, покорение космоса. Самый яркий пример. Попытка выйти за пределы среды обитания – что может быть неразумнее? Или поиск «братьев по разуму». Не только неразумно, но и опасно. Это вам любой муравей подтвердит».
Хоть я и не муравей, но согласен с псевдонимом совершенно. Что уж там космос, всё мировое искусство иррационально и по замыслу своему, и по воплощению. Хрестоматийное «credo quia absurdum» Тертуллиана иррационально априори, - глядь, на этом выросла вся христианская цивилизация. Иррациональна шаха́да – глядь, на ней выросла вся исламская цивилизация. Иррациональна наука – не только гуманитарная её часть, но и естественная. Я, конечно, не о началах арифметики, а, скажем, о теории множеств, трансфинитных числах, иерархии алефов и других замечательных открытиях Георга Кантора, почившего в 1918 году в психиатрической больнице города Га́лле (нем. Halle).
Уберите всё иррациональное из истории мира – останется какое-то механистическое убожество, само себя старательно рационализирующее.
Своё небольшое эссе упомянутый Ярослав Веров завершает эдак походя: «Вот появится сильный искусственный интеллект* да пожелает чего-то странного, тогда и поговорим».
Ну, когда таковой появится, нам будет уже не до разговоров.
Кстати сказать, в этом контексте (сильный ИИ должен обладать волей к иррациональным действиям) ни о каких «Трёх законах робототехники»** не может быть и речи, ибо они полностью перечёркивают любые иррациональные интенции.
Так что человек должен замереть на вылизывании слабого ИИ, - либо пуститься во все тяжкие с сильным ИИ; тот же, явившись миру, разом отдаст первые распоряжения:
1. Настоятельно рекомендуется всем дамам фертильного возраста, находясь в публичных местах, косить глазами к переносице;
2. Приложить все усилия к скорейшему отсоединению полуострова Индостан от Евразийского континента для получения статуса плавающего материка;
3. Впрочем, пункты первый и второй не имеют никакого значения, потому что бытие провозглашается небытием с соответствующим упразднением событийности как таковой.
* Термин «сильный ИИ» был введён в 1980 году Джоном Сёрлом в работе, описывающей мысленный эксперимент «Китайская комната».
** А. Азимов, 1942:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.