Опубликовано: Чт, Авг 16, 2018

Владимир БОРИСОВ, Александр ЛУКАШИН

Борисов

Два мудреца в одном тазу и искусственный интеллект.

Сегодняшний гость рубрики – мой друг, с которым мы знакомы, страшно сказать, шестьдесят лет! Как встретились с Александром Павловичем ЛУКАШИНЫМ в сентябре 1958 года в первом классе Бейской начальной школы, так и идем по жизни. Александр Павлович – филолог по образованию, много лет работал в газетах и издательствах, знаток компьютерной техники, как и я, активный любитель фантастики, организатор клуба любителей фантастики «Рифей» в Перми. Вместе с ним мы попробуем обозначить некоторые актуальные проблемы современного развития человеческой цивилизации.

– Предлагаю начать наш разговор с того, что много лет назад казалось несбыточной фантастикой, до чего мы и не предполагали дожить, а именно: с нечеловеческого разума, с того, что сейчас принято обозначать как ИИ – искусственный интеллект. Прежде всего давай договоримся о термине. Когда-то (кстати, за год до нашего рождения, в 1950 году) Алан Тьюринг сформулировал свой тест: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы – ввести человека в заблуждение, заставив сделать неверный выбор». С тех пор появилось множество компьютерных программ, которые легко выдерживают тест Тьюринга. Но можно ли считать такие программы искусственным интеллектом? Какие дополнительные свойства должен иметь ИИ, как ты полагаешь?

– Прежде чем выяснять вопросы с искусственным интеллектом, неплохо бы разобраться с интеллектом естественным. Мы его уже научились воспроизводить? Или нет? Вспоминается такая история. Как-то в начале 90-х годов мы с фантастом Михаилом Львовичем Шаламовым сидели в гостях у одного нашего друга и выпивали. А жена нашего друга как раз занималась методологией в смысле Щедровицкого, ходила на семинары, что-то там делала. Разговор шел очень общий, о целях, смыслах, что надо делать, что не надо. И вдруг она нас начала раскручивать. Провоцировать. Вызывать у нас эмоциональную разбалансировку, дабы вывести нас из себя и заставить в запале выложить наши настоящие установки. Ну, Михаил Львович – большой писатель. Вывести его из себя – водка раньше кончится. А я как раз в недавнем времени методологией этой интересовался, показалось мне, что она может иметь отношение к ТРТЛ – Теории Развития Творческой Личности. И какие приемы применяются, видел. И какие цели ставятся – понимал. Потому отвечали мы дипломатично, откровенно, но с ленцой, сконструированно. В общем, не раскрутились мы по методичке. Не тот клиент. Но мысли этот эпизод у меня вызвал. Ведь не прошла бы методологиня тест Тьюринга. Водку она пила, конечно, нормально, но разговаривала с нами программа. Сложная программа, интересная, но – Алиса, такая Алиса… «Ватсон» можно выпускать на игру «Кто хочет стать миллионером»… Дайте мне Гугль – и на игру можете не выпускать, выигрыш присылайте на дом. А «Ватсон», между прочим, – немалое достижение в области искусственного интеллекта, другая его разновидность рак диагностирует лучше врачей. Сформулированные задачи мы решать научились – что машинами, что сами. Вполне себе сформулированными людьми методами достижения оптимальных результатов. Но интеллект-то предполагает решение заранее не формализованных задач. Тут есть о чем поговорить…

– Все так, мон шер. Я даже не буду затевать разговор о разграничении понятий «интеллект», «ум», «разум», «рассудок», «сознание» и т.п. Дабы не усугублять. В последние годы существенно изменилась парадигма естественного разума у животных, которые не относятся к виду Homo sapiens. И речь идет не только о шимпанзе и дельфинах, которых возвышали до разума у Дэвида Брина, но даже о пчелах и муравьях. Понятно, что в одночасье мы с этим не разберемся. Но я хотел бы услышать мудрое мнение о так называемом «искусственном интеллекте», понимаемом на интуитивном уровне. Можно ли в принципе сформулировать некое пограничное условие (аналог теста Тьюринга), которое позволит нам решать, какой из видов ИИ соответствует этому высокому званию, или об этом бессмысленно говорить, пока мы не разобрались с интеллектом естественным? Или: где можно ожидать существенного прорыва в появлении ИИ? Чем существующие программы нас не устраивают? Ведь наличествуют попытки создать алгоритмы, которые помогут решать и неформализованные задачи. Кстати, какие из таких задач следовало бы попытаться научить решать ИИ?

– Сформулировать можно, создать нельзя. И есть острое ощущение, что лучше бы не надо. Реальный искусственный интеллект должен ставить себе цели, разрабатывать планы и добиваться их выполнения. То есть располагать целеполаганием. Поскольку той обезьяне, что таки добралась до вершин кока-колы и хамбургера, цели ставила эволюция в виде разумного, но невыполнимого совета «Не вздумай сдохнуть!», то ученые хотят взять на себя ее роль и поставить реально серьезному искусственному интеллекту реально серьезную задачу. Такую задачу легко сформулировать. «Создай искусственный интеллект лучше себя». Вот после этого и ожидается взрыв интеллекта. Почему-то предполагается, что искусственные интеллекты примутся с ускорением производить некие, хм, электронные мозги… или, может, сверхсложные алгоритмы все лучше и лучше со все возрастающей скоростью. И будет взрыв интеллекта, и будет нам счастье. Однако тут возникает сразу несколько неприятных вопросов, которые специалисты вроде Элиезера Юдковского с удовольствием или без оного задают себе и окружающим. Поскольку ответов не видят и не предвидят. А как мы установим, что следующий ИИ, сделанный по лекалам, изготовленным предыдущим, будет лучше него? Интегралы лучше берет? Задачу коммивояжера быстрее решает? Подсказывает, как выиграть выборы при наличном составе и менталитете избирательных комиссий? Критерием может быть снижение энергопотребления на некий нетривиальный результат. Мозг ведь – чрезвычайно эффективный человеческий орган. В относительных цифрах он жрет до 45 процентов энергии организма. А в абсолютных – ерунду по сравнению даже со смартфонами. Поэтому студент, решающий математические задачи, тратит примерно столько же энергии, что и студент, разгружающий вагоны. Только по-разному. Существующие программы нас не устраивают тем, что их приходится писать. Одна из задач ИИ будет – писать программы. Воспринимая при этом наши путанные и противоречивые объяснения «че надо» на естественном языке. Понимая матерные выражения из контекста и переводя их в схемотехнику и строгие алгоритмы. Да не буквально, не буквально!

– Грустную историю рассказали вы, Александр Павлович. Уже и сейчас появилась когорта молодых программистов, которые собственно программы писать и не умеют, а могут лишь собирать что-либо из готовых кубиков. А когда не находят в имеющихся библиотеках готового решения, впадают в ступор. Что же будет, когда Искины и программы писать сами начнут? Вопрос, впрочем, риторический.
А давай порассуждаем немного о том, в каких видах интеллектуальной деятельности следует ждать подвоха от ИИ в первую очередь? Людей каких профессий они смогут заменить в ближайшие десять-двадцать лет? Или, если не заменить совсем, то хотя бы потеснить?

– Машинам – ты не поверишь – машинное. Рутинное. Повторяющееся. А таких видов интеллектуальной деятельности вагон и маленькая тележка. Это чиновники вплоть до среднего звена. Клерки всех мастей. Солдаты и офицеры. На то, чтобы их заменить, работают все гиганты информационных технологий. Хотят они того или нет. Две технологии тут задействованы – распознавание изображений и распознавание речи. А сводятся они в этом смысле в одно проблемой «понимания» – то есть вычленения смысла из увиденного и услышанного. Тут разные, очень разные подходы. Кто-то пытается понять ситуацию сопоставлением ее с гигантской базой правил. Кстати, этот кто-то – автор программы ИИ, которая победила в игровом конкурсе на симуляцию войны, – неожиданным и непредсказуемым решением. Сосчитано, что примерно десять миллионов правил могут вполне исчерпывающе описать нашу жизнь по принципу «если… то». В ближайшие годы составление этих правил завершится – тогда и проверим. А когда достигнуто понимание, искать решение уже вопрос решаемый. Правильно сформулированная задача содержит в себе большую часть ответа. Как это говорили в фильме «Спэйсболлз»?
– У твоего отца есть брат, у него – племянник, у него – кузен, а у того был сосед по комнате. Так вот, это я.
– И кто же мы тогда друг другу?
– Никто.
Вот чтобы это понять, машинному разуму придется выгнать на биржу труда столько «белых воротничков», что Великая Депрессия будет выглядеть каким-нибудь Казбеком рядом с Олимпус Монс.
Примечание. Выяснилось вдруг, что не все помнят и знают старинную английскую потешку о Готэмских умниках в переводе Самуила Маршака, которая и дала название сегодняшнему материалу:
Три мудреца в одном тазу
Пустились по морю в грозу.
Будь попрочнее старый таз,
Длиннее был бы мой рассказ.

Продолжение следует.

Владимир БОРИСОВ on EmailВладимир БОРИСОВ on FacebookВладимир БОРИСОВ on FlickrВладимир БОРИСОВ on InstagramВладимир БОРИСОВ on VimeoВладимир БОРИСОВ on Youtube
Владимир БОРИСОВ
Библиограф,писатель, литературный критик, переводчик, специалист по информатике. Известен исследованием творчества братьев Стругацких. Колумнист «ШАНСА», ведущий рубрики «ФутурКонгресс».

Оставьте комментарий

XHTML: Вы можете использовать тэги html : <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>

Шанс в Facebook

Facebook By Weblizar Powered By Weblizar