«Лос-Анджелес, ноябрь 2019». Если с датой прибытия в 2015 год Марти Макфлая из «Назад в будущее» по какой-то причине случилось много накладок и фальстартов, то фэндом «Бегущего по лезвию» оказался более дисциплинированным: в начале ноября 2019-го как по команде ленты соцсетей погрузились в ностальгию по теперь уже ретровзгляду на наше настоящее, каким оно могло бы быть. Билборды «Атари» и неуклюжие интерфейсы, дождливая Калифорния, возвращение причесок и платьев из сороковых — ну и, конечно, андроиды, почти неотличимые от людей. Несмотря на многие упущения в предсказании будущего, «Бегущий по лезвию» очень верно отразил тот постоянно нарастающий за последние лет сорок дискомфорт, что характеризует отношения человека и вычислительных машин (что во многом и определяет неубывающую актуальность фильма). Откуда мы на самом деле знаем, что мы умнее компьютера? Как жить, когда тебя целиком заменяет технология? Что если нас всех можно свести к алгоритмам?

Вопросы, еще не так давно лежавшие в умозрительной плоскости, становятся максимально приземленными: недавно стало известно, что компания Тимура Бекмамбетова Screenlife Technologies находится в активной фазе разработки русскоязычного синтезатора голоса Vera Voice (подобные технологии, позволяющие нейросети «говорить» голосом знаменитостей на английском, уже существуют и используются).

Без работы рискуют остаться не только актеры: нейросети уже умеют писать простые тексты, генерировать узоры и мелодии, вести вполне осмысленные диалоги, коммуницировать с другими нейросетями. В ближайшие годы многим из нас придется всерьез задумываться над сменой профессии и над тем, насколько большую часть своей жизни мы готовы отдать на откуп искусственному интеллекту. К счастью, к осмыслению этих вопросов нас очень хорошо подготовила популярная наука, популярная философия и в целом поп-культура XIX, XX и XXI веков: страх перед машиной-творцом — это, кажется, естественное состояние человека и многие технологические достижения в равной степени подпитывали его и помогали его преодолеть.

1811

Растущая механизация производства тканей и текстильных изделий приводит к падению дохода английских ткачей и вязальщиков (на их невзгоды накладывается общее падение благосостояния в стране в связи с наполеоновскими войнами). В Ноттингемшире, где сосредоточено много подобных производств, заговорщики по ночам встречаются на торфяниках и планируют разрушительные атаки на станки; затем эта практика распространяется по всей Англии. Своим духовным предводителем они считают некого Неда Ладда — героя, впоследствии оказавшегося мифическим, но давшего движению луддитов название. В действиях движения слились воедино недовольство экономическим положением и падением уровня качества товаров, страх перед неизбежным наступлением будущего и кризис экзистенции — все то, что характеризует и нынешний страх перед искусственным интеллектом. Слово «неолуддит» до сих пор используется как страшное ругательство, сообщающее о том, что собеседник недалек и необразован, — при этом о неиллюзорных классовых причинах восстания предпочитают не вспоминать.

1837

Чарльз Бэббидж описывает аналитическую машину — первый компьютер, обладающий полнотой по Тьюрингу (то есть подобный всем современным компьютерам). Бэббидж в итоге не смог раздобыть достаточно денег, чтобы соорудить свой механизм, так что он не построен по исходным схемам и по сей день. Это не помешало Аде Лавлейс в 1843 году придумать первую современную программу, которая могла бы работать на таком компьютере, и таким образом стать первой программисткой в истории.

1902

Рассматривая артефакты, обнаруженные на затонувшем рядом с островом Антикитера древнеримском корабле, археолог Валериос Стаис обращает внимание на один из «камней»: внутри него находятся шестеренки. Стаис предполагает, что механизм предназначался для предсказания затмений и положения небесных тел, но ему никто не верит: остальные артефакты на корабле датированы примерно I веком до нашей эры, и до 1902 года никаких астрономических механизмов той эпохи никто не находил. О механизме забывают до середины пятидесятых годов XX века, когда несколько ученых подтверждают его природу и датировку. С тех пор так называемый антикитерский механизм, сравнимый по сложности с устройствами XIV века нашей эры, стал для кого-то символом неверия человечества в собственные способности, а для кого-то — знаком о визите инопланетян. Как бы то ни было, механизм показывает, что математическое и механическое мышление очень высокого уровня было доступно нашим далеким предкам — и они передавали часть его машинам. Легенды об оживающих статуях из древнегреческих и древнеегипетских мифов обретают плоть и подпитывают конспирологию искусственного интеллекта.

1920

Выходит пьеса чешского драматурга Карела Чапека R.U.R. (Rossumovi Univerzální Roboti), она же «Универсальные роботы Россума». Опираясь на античные мифы об автоматонах, на легенду о Прометее, на иудейскую концепцию големов, на теорию Сэмюэла Батлера об эволюции сознания у машин и, разумеется, на главного литературного предшественника всех рассказов о разумных механизмах — роман Мэри Шелли «Франкенштейн», — Чапек почти единолично придумывает современную художественную концепцию «робота», искусственного полуразумного слуги (справедливости ради, у Чапека это организмы, а не механизмы). Весьма характерно, что первая же история о роботах заканчивается полным уничтожением человечества. В 1923 году выйдет первая постановка на английском, а слово с простым славянским корнем закрепится в большинстве языков мира. Кроме того, блестящие металлические костюмы из фильма Фрица Ланга «Метрополис» 1927 года, созданного с явной оглядкой на R.U.R., на долгие годы определят внешний облик большинства роботов на экране.

1942

Химик, популяризатор науки и великий писатель Айзек Азимов в рассказе «Хоровод» формулирует базовые принципы не только существования искусственного интеллекта, но и написания сюжетов о нем. Они известны как «Три закона робототехники»:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Деконструкция законов Азимова в научной фантастике активно началась уже в 1950-е, когда «робот-убийца» стал тропом в фильмах категории Б, постепенно перекочевавшим и в высокобюджетные кинокартины. Современные истории об искусственном интеллекте либо полностью игнорируют эти законы, либо модифицируют их так, чтобы сделать возможным существование воинственных роботов. Несмотря на это, специалисты в области искусственного интеллекта и сейчас продолжают ориентироваться на технооптимистические и просциентистские позиции Азимова.

1950

Как утверждает физик Эдвин Томпсон Джейнс в своей книге «Теория вероятности: Логика науки», в 1948 году математика и физика Джона фон Неймана на лекции спросили, может ли машина думать, на что он в запале ответил следующее: «Вы утверждаете, что есть вещи, которые машина не может выполнить. Если вы мне укажете точно, что же именно не способна сделать машина, я всегда смогу построить такую машину, которая сможет сделать именно вот это!» Будто комментируя это высказывание, два года спустя математик, программист и герой войны Алан Тьюринг в статье предлагает одну из ключевых концепций искусственного интеллекта — тест Тьюринга, активно использующийся и по сей день (пусть и в модифицированном виде, пусть и его критика звучит все активнее). Отличить компьютер от человека Тьюринг предлагал следующим образом: задать вопрос (исключительно письменно) и получить ответ как от человека, так и от машины. Если человек, получающий ответы на свои вопросы, не может понять, где ему отвечает человек, а где — искусственный разум, то тест пройден. Сцены, основанные на прохождении или непрохождении теста Тьюринга, есть в нескольких дюжинах научно-фантастических фильмов, романов и сериалов. Выдуманный «тест Войта-Кампфа» из «Бегущего по лезвию» фактически является вариацией теста Тьюринга, где следователь задает ключевые вопросы и следит за реакцией подозреваемого. Как и во многих других случаях, отрицательный результат теста приводит к агрессии и жестокости.

1956

В Дартмутском колледже проходит конференция , где впервые официально использовано словосочетание «искусственный интеллект» . Почти все ее участники на долгие годы вперед определяют не только моду в кибернетике, развившейся из сомнительной новомодной области сороковых в полноценную науку, но и конкретно в разработке искусственного разума. Так, Марвин Минский консультировал Артура Кларка при написании сценария фильма «2001» — одного из самых известных сюжетов об искусственном интеллекте, намеренном убивать людей (в честь Марвина назван и один из персонажей, Виктор Каминский).

1957

Психолог Фрэнк Розенблатт, уверенный в том, что машины можно обучать так же, как животных, тестирует самообучающийся электронный механизм Перцептрон — первый прототип нейросети. В шестидесятые и семидесятые пионерские труды Розенблатта были отчасти высмеяны и забыты — в том числе вышеупомянутым Минским. Некоторые эксперты считают, что игнорирование нейросетей как концепции затруднило развитие искусственного интеллекта на годы, а то и десятилетия: в поп-культуру нейросети полноценно вошли только в 2010-е, когда на рынки вышли самообучающиеся графические приложения и чат-боты.

1965

Джозеф Вейценбаум создает ELIZA — первого чат-бота в современном понимании. Программа ELIZA, названная в честь героини «Пигмалиона» Элайзы Дулитл, была в состоянии вести полноценный диалог с достаточно большим набором фраз и соблюдением грамматики английского языка. Несмотря на явные достижения, работы над подобными проектами были впоследствии закрыты в целом ряде исследовательских институтов: к концу шестидесятых оказалось, что изначальные прогнозы о скорости развития искусственного интеллекта были излишне оптимистичными (мол, успехи в «разгадке» основанных на логике настольных игр — все, на что стоит надеяться ИИ в ближайшие годы). На влиятельность ELIZA это впрочем не повлияло: похожий интерфейс Джордж Лукас использовал в своей дебютной полнометражке «THX 1138», а экран с выбором диалоговых опций стал источником вдохновения для целого ряда ранних видеоигр, включая, скажем, Zork. Напрямую восходит к ELIZA и генеалогия голосовых ассистентов (которые тоже зачастую носят «женские» имена: Алекса, Кортана, Алиса).

1980

На рынке появляются первые лисп-машины — специальные компьютеры, приспособленные для экспертных систем, способных анализировать большое число данных и выдавать возможный вариант решения для конкретной ситуации. Фактически это первое массовое применение концепции big data в повседневной жизни: экспертные системы работали со скоростью, принципиально невозможной для людей, анализирующих то же количество сигналов. Системы заработали в медицине, кризисном менеджменте, борьбе с катастрофами, анализе безопасности производств и так далее. Деньги возвращаются в искусственный интеллект: теперь в нем заинтересованы не только военные ведомства и большие правительства, но и частные компании. Логичным образом большим хитом в 1983 году становится фильм-катастрофа о сломавшейся экспертной системе — «Военные игры» (паника по поводу человеческих жизней, доверяемых компьютерам, пересекается с паникой по поводу излишнего увлечения видеоиграми).

1986

Группа Эрнста Дикманса в Баварии проводит первые тесты полностью автономных автомобилей, использующих технологии анализа изображений, поступающих на видеокамеры, — но только на специально подготовленных трассах.

Уже в 1995 году автомобиль Дикманса был способен доехать от Мюнхена до датского Оденсе и обратно, развивая на автобане скорость до 175 км/ч. В девяностые предсказания беспилотного будущего были гораздо более радужными, чем сейчас: в частности, стартапы вроде Uber рассчитывали на массовое внедрение беспилотных автомобилей уже в начале 2020-х. Однако препятствия в видеораспознавании всё еще существуют: в 2018 году была зарегистрирована первая смерть пешехода под колесами автономного автомобиля (и это был как раз автомобиль, принадлежащий Uber).

В том же 1986 году выходит последний сезон сериала Knight Rider о разумном автомобиле, борющемся с преступностью совместно с очень популярным в Германии Дэвидом Хассельхофом.

1997

Первая половина девяностых — эпоха киберпанка в книгах, кино и видеоиграх. Соответственно, сюжеты о порабощении человечества роботами и компьютерами становятся абсолютным мейнстримом (начиная примерно с «Терминатора-2», где главный антагонист — это обретшая самосознание военная нейросеть Skynet). В новостях тоже можно услышать апокалиптические ноты — особенно в обсуждении победы суперкомпьютера Deep Blue над Гарри Каспаровым. Шахматы долгое время были священным Граалем искусственного интеллекта: если побеждать человека в нарды ИИ научился еще в 1979 году, а программа, успешно играющая в шашки, стала первым примером искусственного интеллекта в истории (в зависимости от определения это датируется либо 1952, либо 1956 годом), то шахматы, отличающиеся большей вариативностью и непредсказуемостью (а также вполне себе выступающие как символ интеллектуальности как таковой), не давались компьютеру довольно долго. Но и это прошло: фотографии грустного Каспарова обошли все СМИ.

1998

Небольшой, но очень назойливый бум роботов-игрушек (в первую очередь похожих на гремлинов Furby и хай-тек-собак Aibo). Игрушки нельзя программировать в полноценном смысле этого слова, но они действительно обучаются (в случае Фёрби — языку, в случае Айбо — движениям) и начинают выполнять команды. Это совпадает со сменой парадигмы в изображении ИИ в кино: роботы больше не враги и не чудовища (и даже не комические персонажи в духе «Короткого замыкания»). Мелодраматические «Двухсотлетний человек» и «Искусственный интеллект» дружно переосмысляют и перепридумывают роль роботов в обществе как полноценных участников, пусть и со своими особенностями: вернуться к концепции «доброго слуги» напрямую уже никак не получится. Ну, по крайней мере, с теми роботами, которые напоминают людей или животных: случившийся чуть позже бум роботов-пылесосов показывает, что в отсутствие антропо- и зооморфизма мы всё еще испытываем ограниченную эмпатию к роботам.

2001

Выходит фильм (мультфильм? заставка к игре, но без игры?) Final Fantasy: The Spirits Within, срежисcированный создателем одноименной серии РПГ Хиронобу Сакагути и по-прежнему считающийся одним из лучших примеров того, что такое «зловещая долина» (когда искусственное изображение человека слишком сильно похоже на него, чтобы не считать это абстракцией, но недостаточно сильно, чтобы принять изображение за живое существо). Фильм разорит киноотдел компании Square, но подарит нам интересную дискуссию о природе «цифровой актрисы» Аки Росс и ее постерах в бикини (все эти обсуждения объективации 3D-моделей получат новую силу в 2010-х, с большим распространением VR-порнографии и вопросами прав роботов на неприкосновенность).

2007

«Первой виртуальной группой» часто называют Gorillaz, но это всё же пример классических музыкантов, скрытых за мультипликационным фасадом. Хацунэ Мику (имя можно перевести, как «первый звук будущего») — это уже совсем другое дело: певица, которой как бы нет и, строго говоря, быть не может. Первый и самый известный из вокалоидов, японских плагинов для синтеза голоса, обладает мультипликационным аватаром, собственными песнями и внушительной фан-базой. Это, конечно, не первый прецедент поющего компьютера (помимо прочего, здесь стоит вспомнить великий российский проект 386 DX и его каверы на гитарную классику), но самый известный и самый значимый: в этот момент продюсеры по всему миру резко поняли, что заменить можно не только создателей мелодий, но и певцов.

2012

Один из хедлайнеров важнейшего мейнстримового фестиваля Coachella — голограмма (ну, точнее, видеопроекция). Не фигурально, а вполне буквально: убитый в 1996 году Тупак Шакур «воскрес» в совместном концерте со Снупом Доггом и Доктором Дре (потом они даже планировали поехать в тур, но в итоге Дре решил, что это лишнее). Сомнительное с этической точки зрения «воскрешение» Тупака привело к возвращению его альбомов в чарты и ускорению совершенствования подобных технологий: уже в вышедшем в 2016 году фильме «Изгой-один» умерший в 1994 году Питер Кушинг, восстановленный в виде 3D-модели, играл довольно значимую роль.

Дальше — больше: в 2020 году должен выйти фильм «В поисках Джека», где одну из главных ролей играет Джеймс Дин, погибший в 1955 году. Тем временем основанный в России стартап Replika продолжает работу над созданием нейросетей, способных имитировать речевые и лексические особенности погибших людей.

2018

Выходит FakeApp, первая коммерческая программа для домашнего изготовления так называемых дипфейков, где голос или лицо одного человека совмещаются с телом и лицом другого человека, так что на экране можно наблюдать видеогибрид, аналог вышеупомянутого «цифрового воскрешения» или превращение одного лица в другое. Разумеется, первым делом эта технология используется для изготовления поддельной порнографии со знаменитостями (по некоторым подсчетам , это более чем 95% всех дипфейков). Тут как тут и банковские махинации с видео и голосом, а заодно и фальшивые видео, порочащие политических оппонентов (одно такое видео, со спикером Нэнси Пелоси, ретвитнул официальный аккаунт Дональда Трампа). Буквально про это последние несколько лет говорит Славой Жижек: «Для меня главный вопрос — и это вопрос без ответа — как подобные технологии повлияют на наше восприятие самих себя. Будем ли мы восприниматься как свободные живые существа — или же нами будут управлять цифровые автоматы. И ключевой момент заключается в следующем: мы даже можем не узнать, что они нами управляют».

Покупка машины начинается с покупки брелочка для ключей.
Из личных афоризмов автора

Чем люди отличаются от машин с искусственным интеллектом? Один из не совсем обычных ответов на поставленный вопрос - эмпатией. Если перевести определение эмпатии, данное в Оксфордском словаре английского языка, оно звучит так: эмпатия - это способность мысленно отождествлять себя с другим человеком или наблюдаемым объектом (или полностью понимать их). Это согласуется и с привычным нам определением из Википедии: «Эмпатия (греч. ἐν - «в» + греч. πάθος - страсть, страдание, чувство) - осознанное сопереживание текущему эмоциональному состоянию другого человека без потери ощущения внешнего происхождения этого переживания». Согласитесь, это весьма характерная черта, отличающая людей от запрограммированной машины. Эта тема в технической литературе затрагивается мало, и на ней хочется остановиться подробнее, тем более в свете проблем ИИ она представляется важной.

Эксклюзивную возможность использовать материалы по этой теме в русскоязычном переводе автору статьи предоставил Джейсон Миллер (Jason Miller), возглавляющий отдел маркетинга в Microsoft в регионе EMEA и в свое время опубликовавший в сети LinkedIn статью «Can a machine have empathy?» («Может ли машина проявлять сочувствие?») . У нас состоялась короткая дискуссия на эту тему, в ходе которой выяснилось, что наши взгляды на проблему и риски бесконтрольного развития и использования ИИ совпадают. Искусственный интеллект сейчас пытаются превратить в некое подобие разума, то есть наделить его чисто человеческими чертами - той же эмпатией, которую Джейсон Миллер оценивал с точки зрения возможности ее использования в маркетинге. По мнению автора данной статьи, область потенциального применения эмпатии гораздо шире. Согласитесь, намного приятнее общаться с приветливым коллаборативным промышленным роботом, если с ним можно перекинуться парой слов и пошутить, он встречает тебя добрым словом и, оценивая тебя сенсорами (они все равно у него есть), подбирает соответствующую модель поведения. Это намного лучше, чем просто включиться в работу с «умным» внутри, но тупо жужжащим снаружи механизмом. А если это домашний, пусть и програм­мный, помощник или личный ассистент - тут и говорить нечего.

Что касается эмпатии, то в мае прошлого года на конференции разработчиков устройств ввода / вывода компания Google продемонстрировала свою новую систему Duplex . Она представляет собой виртуальный помощник на базе ИИ, который способен совершать телефонные звонки, чтобы оптимально организовать расписание своего «начальника». Аудитория наблюдала за тем, как Duplex делал заказы в ресторане и записывался на стрижку в парикмахерской. Они удивленно смеялись, когда в ходе разговора он, по-видимому, убедил человека на другом конце телефонной линии, что тот разговаривает именно с человеком, а не с программой. Здесь можно сделать поправку на нашу психологию: автор статьи наблюдал аналогичный феномен, когда разработал и сделал еще в 1980-х гг. прототип секретаря-информатора (то, что потом назвали автоответчиком). В то время почти все люди пытались с этим прототипом разговаривать, так как при звонке слышали запись человеческой речи.

Демонстрация Duplex вызвала оживленное обсуждение в социальных сетях, подняв при этом один интересный вопрос. Показывает ли способность искусственной системы к такому пониманию и отправке разговорных сигналов, что машина может освоить эмпатию? Это один из наиболее важных вопросов в развивающейся дискуссии об ИИ, его роли в обществе и степени, в которой он будет проникать в исконно человеческие сферы деятельности.

Когда Джейсон Миллер задал этот вопрос аудитории в сети LinkedIn, он получил три совершенно разных типа ответов - и эти ответы имеют большое значение для понимания будущего ИИ. Они дают хорошее представление о взглядах профессионалов на возможности ИИ, а также о том, как эти возможности ИИ могут быть использованы.

Первый вариант ответа - «да, машина может освоить эмпатию» или «да, потому что ИИ в итоге сможет делать все, на что способен человеческий мозг». Было высказано мнение, что эмпатия может быть запрограммирована аналогично нашему восприятию. Для сторонников этой теории мы - это машины, а наш мозг является очень хорошим компьютером, пусть даже квантовым , но, как и обычный компьютер, с соответствующим программированием.

Второй вариант ответа: нет, не может, потому что эмпатия - это уникальная человеческая характеристика, а не то, что машина способна испытать. Да и может ли она вообще что-то чувствовать? Хотя Ава из фильма «Ex Machine», который был взят в качестве примера пути развития ИИ, как минимум, показывала эмпатию и успешно этим воспользовалась. Если обратиться к другим примерам, то в знаковом с рассматриваемой нами точки зрения фильме «Она» («Her», американская фантастическая мелодрама режиссера и сценариста Спайка Джонза (Spike Jonze), 2013 г.) важность этого качества видна очень хорошо, так как фильм полностью на ней построен и в нем отсутствует физическое воплощение ИИ, который представлен в виде нейронной сети Саманты (по фильму «операционки»). Сочувствие позволяет не только «ощущать себя», но и чувствовать чужую боль, переживания и эмоции кого-то другого в большей или меньшей степени. Мы не понимаем организацию сознания в людях, что уж говорить о способности создавать это сознание искусственно с должной верификацией (подтверждением подлинности, если говорить техническим языком).

Третий вариант ответа особенно интригует. Это даже не ответ, а скорее вопрос: если машина, как кажется, испытывает эмпатию, имеет ли значение, реальна эта эмпатия или нет? Функционально разницы нет: способна ли эта машина на те же эмоции, что и мы, или просто выводит эти эмоции из сигналов, которые посылают ей сами люди или ее сенсоры, вырабатывает наиболее подходящий ответ, реакцию. Представим, что мы не можем определить, является ли эмпатия подлинной, потому что робот на основе глубокого обучения изучил мимику и структуру нашего поведения, - можем ли мы тогда все еще смотреть на робота как на машину?

Это далеко не простой вопрос. Имеет ли значение различие между реальным и «искусственным» сопереживанием? Здесь мнение автора статьи совпадает с ответом Джейсона Миллера - да, имеет. Если вернуться к фильму «Ex machine»: Ава с успехом продемонстрировала это, и Калеб, что называется, попался как кур во щи, сам того не ожидая. Возможно, не будь она в образе девушки, специально созданном под его предпочтения, все было бы иначе. Лицам мужского пола мы доверяем куда меньше, а неприятным, с нашей точки зрения, внешне тем более, так что ее разработчик Нейтон этот факт здесь учел. А в фильме «Она» Теодор, начав с использования функций ассистента, просто влюбился в женский голос, заменивший ему живое общение.

Рис. 1.

Перспектива использования ИИ как ассистента вообще характерна - возьмите, например, ту же крайне негативно, если не враждебно, воспринятую Илоном Маском (Elon Musk) Софию , которая в октябре 2017 г. стала подданной Саудовской Аравии и первым роботом, получившим гражданство какой-либо страны (рис. 1).

Но вернемся к первоначальному вопросу: может ли машина кому-то сочувствовать? Это один из тех вопросов, ответ на которые может измениться в будущем. Естественно, машина не может испытывать сочувствие по определению, все сводится к определению эмпатии и машины.

Машины не могут мысленно отождествлять себя с людьми, потому что происходящее в нашем человеческом уме включает вещи, которые машина никогда не сможет испытать сама, независимо от того, насколько продвинутыми и глубокими могут быть ее собственные аналитические процессы и сенсорное восприятие. Когда мы обсуждаем роль ИИ в обществе, важно четко понимать, почему все так устроено. Хотя на самом деле мы и сами себя не понимаем. Журналист CNBC Эндрю Росс Соркин (Andrew Ross Sorkin) на пресс-конференции спросил Софию: «Есть ли у роботов разум и самосознание?». На что она ответила следующее: «А позвольте спросить вас в ответ, откуда вы знаете, что вы человек?».

Машина может приблизиться к нам, но она, как автору статьи (и не только ему) кажется, никогда не сможет полностью постичь человека. Наше сознание содержит намного больше, чем просто рациональное познание и логическое мышление. Фактически эта способность к рациональному мышлению является побочным продуктом большинства других аспектов нашего сознания, а не самой по себе управляющей силой нашего мозга. Нашей сознательной жизнью движет то, как мы воспринимаем мир с помощью наших чувств. Это сочетание зрения, звука, осязания, вкуса и запаха, которое ни одна машина никогда не сможет испытать таким же образом.

Человеческое сознание также обусловлено нашими мощными биологическими импульсами и потребностями. Ни одна машина никогда не почувствует, что значит быть голодным или жаждущим. В реальности ни одна машина не сможет, как в фильме «Она», симпатизировать и тянуться к другой машине или человеку, и не будет мотивироваться стремлением к любви и всеми эмоциями, которые сопровождают этот естественный для человека процесс. Вспомним, как в фильме машина начала флиртовать сразу с множеством людей и не понимала, за что Теодор на нее обиделся.

Кроме того, какая может быть у машины тревога? Ни одна машина не боится одиночества, потери крыши над головой и не ощущает сильной уязвимости, вызванной страхом за свою физическую безопасность, разве что «почувствует» падение мощности в системе питания или недопустимый рост температуры, если это физический объект с ИИ. Так что в своем ответе журналисту София неправа, невролог Антонио Дамасио (Antonio Damasio) предлагает решить эту проблему так: «Мы - это не мыслящие машины, которые чувствуют, скорее мы можем чувствовать машины, которые думают».

Наконец, что не менее важно, наше сознание формируется коллективным разумом и культурной памятью, сгенерированными в ходе развития нашей цивилизации. Мы - продукт коллективного накопления, на протяжении многих тысяч лет, наших общих эмоций и чувственных переживаний, передающихся из поколения в поколение и отображенных в истории. Разговоры, общие шутки, сарказм, символизм - всё это невероятно тонкие психологические сигналы. Тот же коллективный разум развивает этику и ценности, с которыми мы все можем инстинктивно согласиться, даже если они не обоснованы логически. Если верить сообщениям в прессе, хотя это и смахивает на очередной фейк, то в Стэнфордском университете пытаются научить ИИ шутить и разрабатывают нейронную сеть, наделенную своеобразным чувством юмора . По словам разработчиков, задача оказалась сложной, поскольку ИИ работает по определенному алгоритму, а это исключает импровизацию. Пока вывод неутешителен: смешным ИИ не сделать, даже если загрузить в нейросеть все шутки и анекдоты мира.

Ничто иное не общается, как люди, - и люди не общаются ни с чем другим так, как мы общаемся друг с другом. Это важно, потому что единственный способ приобрести свою долю в нашем коллективном интеллекте - это взаимодействовать с человеком. Если мы не взаимодействуем с машинами так же, как с другими людьми, этот коллективный опыт и интеллект просто недоступны для них. Они не являются частью нашей эмпатической системы. Да, нам может быть жаль «любимого» компьютера, может, мы его даже выбрасывать не станем. Автор статьи свой первый сохранил - на процессоре AMD 133 МГц с HDD на 500 Мбайт, купленный за баснословные для 1990-х гг. $750. Но я не отмечаю его день рождения, не проведываю в кладовке и не веду с ним ностальгические беседы: «А помнишь, как мы в DOOM II…». Хотя у нас есть любимые вещи, у нас нет с ними эмоциональной взаимной связи, у нас есть только связь с событиями, которые ассоциируются с теми или иными вещами (вспомним прекрасную песню «From Souvenirs To Souvenirs» в исполнении Demis Roussos). В противном случае это уже фетишизм - поклонение неодушевленным материальным предметам, которым приписываются сверхъестественные свойства, или расстройство психики, но и в этом случае мы имеем дело с ассоциациями.

Когда люди говорят о человеческом мозге, работающем как компьютер, или об ИИ, обучающемся так же, как человек, они выражаются образно. Это можно считать частью давней традиции гадать о том, как работает наш мозг и что действительно представляет собой наше сознание. Всякий раз, когда мы изобретаем новую технологию, возникает сильное искушение использовать ее в качестве аналогии функционирования мозга. Когда мы изобрели электричество, мы начали говорить об электрических токах в мозге. Когда появился телеграф, мы решили, что и мозг посылает дискретные сигналы. Убеждение многих людей в том, что человеческий мозг работает как компьютер (и, следовательно, в первую очередь является логической машиной), - это лишь наше предположение. Мы на самом деле не знаем, как работает мозг, как эта работа транслируется в наше сознание и где, как оно хранится. Мы видим некую активность и результат, которые нам удалось смоделировать в нейронных сетях, но не видим и не понимаем сам процесс.

Видя взаимодействия, мы делаем выводы, но, возможно, мы находимся в ситуации, когда решаем, что таракан, которому оторвали лапы, перестает слышать, поскольку от стука он уже не убегает. Вполне вероятно, что у нас, если проводить аналогию с компьютером, есть лишь некий интерфейс, пароль и логин для доступа в нашу «базу данных», которая хранится в некоем облаке, и мы используем пока еще неизвестную нам технологию быстрого доступа. Почему нет? С точки зрения техники - это вполне логично. Может, поэтому мы иногда получаем информацию, как нам кажется, из чужой жизни, это похоже на «баг» в нашей системе. Крайне маловероятно, что мы даже частично воспроизвели человеческий мозг, когда разработали существующую теорию ИИ. Даже то, что мы называем нейронными сетями, - лишь подобие, основанное на нашем текущем понимании (рис. 2).

Рис. 2.

По этим причинам мы можем согласиться со вторым мнением, т. е. утверждением, что машина может испытывать сочувствие, но изъян этой теории в том, что мы сводим огромные таинственные действия человеческого мозга и сознания к чему-то, что можно понять, воспроизвести и имитировать с помощью машины, управляемой логикой. Дело не в том, что мы переоцениваем возможности ИИ, а в том, что мы сильно недооцениваем то, насколько сложны наши собственные возможности.

Это возвращает нас к другому вопросу: имеет ли значение то, что «искусственная эмпатия» не является истинным сочувствием, хотя она взаимодействует с нами таким же образом? Понять это очень важно, чтобы не попасть в тупик очередного заблуждения, - в том, что компьютер или программа начали думать. Последствия могут быть печальными, мы и так много что уже отдали на откуп автоматам, решив, что они достаточно для этого «поумнели». Где же грань между тем, что мы называем ИИ, и реальным разумом? Она, как нам кажется, скрывается в эмоциональности. Продолжим рассматривать понятный пример с эмпатией.

Искусственная эмпатия работает, наблюдая, учась, реагируя и воспроизводя сигналы, которые посылают люди. По мере развития ИИ с глубоким обучением и способности работать со все большими наборами данных программы будут все лучше и лучше справляться с этим и создавать видимость (или образ) эмпатии. Однако истинная эмпатия включает гораздо больше, чем просто наблюдение и реагирование на эмоциональные сигналы, независимо от того, со сколькими из этих сигналов вам приходится работать. Почему? Потому что сигналы, которые посылают люди, представляют собой лишь крошечную часть того, что они реально испытывают. Мы все - гораздо больше, чем сумма того, что другие люди думают о нас, наблюдая за тем, что мы делаем и говорим. Мы обладаем способностями, эмоциями, воспоминаниями и опытом, которые влияют на наше поведение, при этом необязательно проявляясь снаружи. Они должны быть интуитивно понятны, даже когда их вообще не замечают. Пример: мы часто не узнаем себя или хорошо (именно хорошо) знакомого человека на фото или портрете, а вот остальных - без проблем. С портретом дело можно объяснить философски - «субъективным восприятием объективной действительности». С «объективным» фото причина в том, что оно дает нам выхваченный момент, а мы воспринимаем себя и хорошо знакомых людей в комплексе, для остальных же нам достаточно корреляции, в чем наш мозг дока.

Все становится сложнее, когда машины начинают принимать решения, имеющие серьезные последствия, причем без эмоционального контекста и общих ценностей, которые в таких случаях используют люди. Это была одна из ключевых тем в статье, которую Генри Киссинджер (Henry A. Kissinger) недавно написал о последствиях ИИ для «The Atlantic» . Возьмите, например, беспилотный автомобиль, который должен в случае неизбежной аварии решить - убить родителя или ребенка. Сможет ли такая машина когда-нибудь объяснить людям, почему она делает тот или иной выбор? А если не требуется обосновывать действия машины человеческими последствиями и с человеческой точки зрения, то что станет с нашей системой этики и справедливости? Как это вложить в машину? Ведь тогда нам нужно будет отбросить наши эмоции и стать на сторону машины, посмотреть на мир ее глазами. Способны ли мы на такое?

Подобный процесс прошел бы легче и проще, если бы мы заменили искусственное сочувствие на человеческое. ИИ может подражать человеческим взаимодействиям, но с гораздо более узким пониманием происходящего, чем мы. Нам необходимо помнить об этом, когда выбираем роль, которую ИИ должен играть в управлении процессами или стратегиями. Эмпатия, о которой мы говорили в этой части статьи применительно к машине, играет очень весомую роль. Возможно, поэтому роботам-ассистентам стараются дать человеческий облик и приятный голос (в псевдонаучных фильмах они даже зачем-то едят и не только).

При разработке упомянутых в первой части статьи игровых систем, в которой автор принимал участие не только как разработчик электронной начинки, но и в качестве дизайнера и одного из идеологов, мы столкнулись с такой проблемой. Вторая из наших машин, а это был уже 100%-ный робот (как положено, жужжащий и поворачивающийся), работала эффективнее «живых» дилеров, не делала ошибок, давала больший экономический эффект. Но более популярным был смешанный вариант - часть игроков выбирала «живого» дилера, задача которого была только улыбаться и вытаскивать карту из башмака (раздатчика игральных карт на игорном столе). В этом случае как раз срабатывала эмпатия, которой наша полностью роботизированная система, как и система с генератором случайных карт, априори не обладала.

Система Duplex от Google может выглядеть как обладающая эмпатией, но эта эмпатия строго ограничена тем, что имеет отношение к поставленной задаче. Например, к бронированию столика в ресторане. Duplex не обучен обнаруживать какие-либо эмоции за пределами заданного алгоритма или перестраивать свое поведение на основе конкретной ситуации. Если голос человека на другом конце телефонной линии звучит недружелюбно и нервно, может ли Duplex общаться с ним адекватно? Может ли он найти способ расположить человека к себе и заставить его успокоиться? Может ли он банально упросить найти свободный столик в час пик ресторана? Человеческое общение - это нечто гораздо большее, чем просто эффективный обмен информацией, и именно здесь последствия использования реальной и искусственной эмпатии становятся особенно значимыми.

Если мы передадим фундаментальные стратегические решения ИИ, то определение стоимости производимого с его участием конечного продукта (иначе зачем этот ИИ вообще нужен?) будет снижаться с поразительной скоростью. Но риск состоит в том, что ИИ игнорирует другие элементы, которые по-разному затрагивают человеческое сознание, играя на струнах человеческой души, как та же Ава из «Ex Machine» делала лишь для достижения четкой цели.

Человеческий интеллект настолько силен, потому что он не ограничен одним лишь рациональным мышлением. Элементы сознания позволяют нам иметь дело с непредсказуемостью и неопределенностью окружающего мира. Они дают нам возможность принимать решения на основе общих ценностей и мотивов, которые резонируют коллективно, и знать, что правильно, даже без необходимости выяснять, почему это так. Сочувствующий человеческий интеллект способен испытывать то, что он испытывает, чтобы быть грустным или счастливым, - и он позволяет этим чувствам влиять на свои суждения и свое поведение с другими. Машина не могла бы этого сделать, даже если бы захотела, поскольку это в большей мере продукт нашей цивилизации. В других цивилизациях все могло бы быть по-другому - например, ничего страшного не было бы в том, чтобы съесть себе подобного «из большого уваженья», как у Владимира Высоцкого: «Кто уплетет его без соли и без лука, тот сильным, смелым, добрым будет…».

Чтобы машина стала разумной, мы должны дать ей модели ценностей. Какие? Мы знаем свою шкалу и именно попытки ее внедрения видим в искусстве - литературе и кино, но что из этого мы реально можем дать уже «думающей» машине? По нашему мнению - ничего. Как вырастить для нее древо познания Добра и Зла и какие на нем должны быть плоды? Если мы пойдем по такому пути, то это приведет нас к реальной конфронтации, у машин появится своя философия, религия и т. д. Единственно, с чем нам повезло, - это с заповедями, но об этом мы будем говорить в последней части данной статьи.

Искусственный интеллект - это способность цифрового компьютера или управляемого компьютером робота выполнять задачи, обычно связанные с разумными существами. Термин часто применяется к проекту развития систем, наделенных интеллектуальными процессами, характерными для человека, такими как способность рассуждать, обобщать или учиться на прошлом опыте. Кроме того, определение понятия ИИ (искусственный интеллект) сводится к описанию комплекса родственных технологий и процессов, таких как, например, машинное обучение, виртуальные агенты и экспертные системы. Говоря простыми словами, ИИ - это грубое отображение нейронов в мозге. Сигналы передаются от нейрона к нейрону и, наконец, выводятся - получается числовой, категориальный или генеративный результат. Это можно проиллюстрировать на таком примере. если система делает снимок кошки и обучена распознавать, кошка это или нет, первый слой может идентифицировать общие градиенты, которые определяют общую форму кошки. Следующий слой может идентифицировать более крупные объекты, такие как уши и рот. Третий слой определяет более мелкие объекты (например, усы). Наконец, основываясь на этой информации, программа выведет «да» или «нет», чтобы сказать, является ли это кошкой или нет. Программисту не нужно «говорить» нейронам, что это те функции, которые они должны искать. ИИ изучил их сам по себе, тренируясь на многих изображениях (как с кошками, так и без кошек).

Что такое искусственный интеллект?

Описание искусственного нейрона

Искусственный нейрон - это математическая функция, задуманная как модель биологических нейронов, нейронной сети. Искусственные нейроны - элементарные единицы в искусственных нейросетях. Искусственный нейрон получает один или несколько входов и суммирует их, чтобы произвести выход или активацию, представляющую потенциал действия нейрона, который передается вдоль его аксона. Обычно каждый вход анализируется отдельно, и сумма передается через нелинейную функцию, известную как функция активации, или передаточная функция.

Когда началось исследование ИИ?

В 1935 году британский исследователь А.М. Тьюринг описал абстрактную вычислительную машину, которая состоит из безграничной памяти и сканера, перемещающегося вперед и назад по памяти, символ за символом. Сканер считывает то, что он находит, записывая дальнейшие символы. Действия сканера диктуются программой инструкций, которая также хранится в памяти в виде символов. Самая ранняя успешная программа ИИ была написана в 1951 году Кристофером Стрейчи. В 1952 году эта программа могла играть с человеком в шашки, удивляя всех своими способностями предсказывать ходы. В 1953 году Тьюринг опубликовал классическую раннюю статью о шахматном программировании.

Отличие искусственного интеллекта от естественного

Интеллект можно определить как общую умственную способность к рассуждению, решению проблем и обучению. В силу своей общей природы интеллект интегрирует когнитивные функции, такие как восприятие, внимание, память, язык или планирование. естественный интеллект отличает осознанное отношение к миру. Мышление человека всегда эмоционально окрашено, и его нельзя отделить от телесности. Кроме того, человек - существо социальное, поэтому на мышление всегда влияет социум. ИИ не имеет отношения к эмоциональной сфере и социально не ориентирован.

Как сравнить человеческий и компьютерный интеллекты?

Сравнить мышление человека с искусственным интеллектом можно исходя из нескольких общих параметров организации мозга и машины. Деятельность компьютера, как и мозга, включает четыре этапа: кодирование, хранение, анализ данных и выдачу результата. Кроме того, мозг человека и ИИ могут самообучаться в зависимости от данных, полученных из окружающей среды. Также человеческий мозг и машинный интеллект решают проблемы (или задачи), используя определенные алгоритмы.

У компьютерных программ есть IQ?

Нет. Показатель IQ связан с развитием интеллекта человека в зависимости от возраста. ИИ в чем-то превышает некоторые человеческие способности, например может удерживать в памяти огромное количество цифр, но это не имеет отношения к IQ.

Что такое тест Тьюринга?

Алан Тьюринг разработал эмпирический тест, который показывает, способна ли программа уловить все нюансы поведения человека до такой степени, что человек не сможет определить, с кем именно он общается - с ИИ или с живым собеседником. Тьюринг предложил, чтобы сторонний наблюдатель оценивал разговор между человеком и машиной, которая отвечает на вопросы. Судья не видит, кто именно отвечает, но знает, что один из собеседников - ИИ. Разговор ограничен только текстовым каналом (компьютерная клавиатура и экран), поэтому результат не зависит от способности машины отображать слова как человеческую речь. В случае, если программе удается обмануть человека, считается, что она эффективно справилась с тестом.

Символьный подход

Символьный подход к ИИ - совокупность всех методов исследования искусственного интеллекта, основанных на высокоуровневых символических (читаемых человеком) представлениях о задачах, логике и поиске. Символьный подход широко применялся в исследованиях ИИ в 1950–80-х годах. Одной из популярных форм символьного подхода являются экспертные системы, использующие сочетание определенных правил производства. Производственные правила связывают символы в логические связи, которые подобны алгоритму If-Then. Экспертная система обрабатывает правила, чтобы сделать выводы и определить, какая дополнительная информация ей нужна, то есть какие вопросы задавать, используя удобочитаемые символы.

Логический подход

Термин «логический подход» предполагает апеллирование к логике, размышлениям, решению задач с помощью логических шагов. Логики еще в XIX веке разработали точные обозначения для всех видов объектов в мире и отношений между ними. К 1965 году существовали программы, которые могли решить любую логическую задачу (пик популярности данного подхода пришелся на конец 1950–70-х годов). Сторонники логического подхода в рамках логического искусственного интеллекта надеялись выстроить на таких программах (в частности, записанных на языке Prolog) интеллектуальные системы. Однако у такого подхода два ограничения. Во-первых, нелегко взять неформальное знание и изложить его в формальных терминах, которые требуются для обработки ИИ. Во-вторых, есть большая разница между решением проблемы в теории и ее решением на практике. Даже проблемы с несколькими сотнями фактов могут исчерпать вычислительные ресурсы любого компьютера, если у него нет каких-либо указаний относительно того, какие рассуждения надо использовать в первую очередь.

Агентно-ориентированный подход

Агент - это то, что действует (от лат. agere, «делать»). Конечно, все компьютерные программы что-то делают, но ожидается, что компьютерные агенты будут делать больше: работать автономно, воспринимать сигналы окружающей среды (с помощью специальных датчиков), адаптироваться к изменениям, создавать цели и выполнять их. Рациональный агент - это тот, кто действует так, чтобы достичь наилучшего ожидаемого результата.

Гибридный подход

Предполагается, что этот подход, который стал популярным в конце 80-х, работает наиболее эффективно, так как представляет собой сочетание символьных и нейронных моделей. Гибридный подход увеличивает когнитивные и вычислительные возможности машины.

Рынок технологий искусственного интеллекта

Ожидается, что рынок к 2025 году вырастет до 190,61 млрд долларов, при ежегодном темпе прироста - 36,62%. На рост рынка влияют такие факторы, как внедрение облачных приложений и сервисов, появление больших массивов данных и активный спрос на интеллектуальных виртуальных помощников. Однако экспертов, разрабатывающих и внедряющих технологии ИИ, пока немного, и это сдерживает рост рынка. Системам, созданным на основе ИИ, необходима интеграция и техническая поддержка при обслуживании.

Процессоры для ИИ

Современные задачи ИИ требуют мощных процессоров, которые могут обрабатывать огромные массивы данных. Процессоры должны иметь доступ к большим объемам памяти, также устройству необходимы высокоскоростные каналы передачи данных.

В России

В конце 2018 года в России запустили серию серверов «Эльбрус-804», показывающих высокую производительность. Каждый из компьютеров оснащен четырьмя восьмиядерными процессорами. С помощью данных устройств можно выстроить вычислительные кластеры, они позволяют работать с приложениями и базами данных.

Мировой рынок

Драйверами и лидерами рынка являются две корпорации - Intel и AMD, производители самых мощных процессоров. Intel традиционно концентрируется на выпуске машин с более высокой тактовой частотой, AMD ориентирована на постоянное увеличение числа ядер и обеспечение многопоточной производительности.

Национальная концепция развития

Национальные стратегии развития ИИ уже утвердили три десятка стран. В октябре 2019 года проект Национальной стратегии развития ИИ должен быть принят в России. Предполагается, что в Москве будет введен правовой режим, облегчающий разработку и внедрение технологий ИИ.

Исследования в сфере ИИ

Вопросы, что такое искусственный интеллект и как он работает, волнуют ученых разных стран уже не одно десятилетие. Госбюджет США ежегодно направляет 200 млн долларов на исследования. В России за 10 лет - с 2007-го по 2017-й - было выделено около 23 млрд рублей. Разделы по поддержке исследований в сфере ИИ станут важной частью концепции национальной стратегии. В скором времени в России откроются новые научные центры, а также будет продолжена разработка инновационного ПО для ИИ.

Стандартизация в области ИИ

Нормы и правила в области ИИ в России находятся в процессе постоянной доработки. Предполагается, что в конце 2019 - начале 2020 года будут утверждены национальные стандарты, которые сейчас разрабатывают лидеры рынка. Параллельно формируется План национальной стандартизации на 2020 год и далее. В мире работает стандарт «Искусственный интеллект. Концепция и терминология», и в 2019 году эксперты начали разрабатывать его русифицированную версию. Документ должен быть утвержден в 2021 году.

Влияние искусственного интеллекта

Внедрение ИИ неразрывно связано с научно-техническим прогрессом, и сферы применения расширяются с каждым годом. Мы сталкиваемся с этим каждый день в жизни, когда крупная розничная сеть в интернете рекомендует нам какой-то товар или, только открыв компьютер, мы видим рекламу фильма, который как раз хотели посмотреть. Эти рекомендации основаны на алгоритмах, анализирующих то, что купил или смотрел потребитель. За этими алгоритмами стоит искусственный интеллект.

Риск для развития человеческой цивилизации - есть ли он?

Илон Маск считает, что развитие ИИ может угрожать человечеству и результаты могут оказаться страшнее, чем применение ядерного оружия. Стивен Хокинг, британский ученый, опасается, что люди могут создать искусственный интеллект, обладающий сверхразумом, который может нанести вред человеку.

На экономику и бизнес

Проникновение технологии ИИ во все сферы экономики увеличит к 2030 году объем глобального рынка услуг и товаров на 15,7 трлн долларов. США и Китай пока лидеры с точки зрения всевозможных проектов в сфере ИИ. Развитые страны - Германия, Япония, Канада, Сингапур - также стремятся реализовать все возможности. Многие страны, экономика которых растет умеренными темпами, такие как Италия, Индия, Малайзия, развивают сильные стороны в конкретных областях применения ИИ.

На рынок труда

Глобальное влияние ИИ на рынок труда будет идти по двум сценариям. Во-первых, распространение некоторых технологий будет приводить к увольнению большого количества людей, так как выполнение многих задач возьмут на себя компьютеры. Во-вторых, в связи с развитием технического прогресса специалисты в сфере ИИ будут очень востребованы во многих отраслях.

Предвзятость ИИ

Предвзятость системы ИИ, вероятно, станет все более распространенной проблемой, поскольку искусственный интеллект выходит из лабораторий в реальный мир. Исследователи опасаются, что без надлежащей подготовки по оценке данных и выявлению потенциала предвзятости в данных уязвимые группы общества могут пострадать или их права будут ущемлены. До сих пор у исследователей нет данных, не будут ли угрожать человечеству системы, построенные на основе машинного обучения.

Сферы применения

Искусственный интеллект и его области применения претерпевают трансформацию. Определение Weak AI («слабый ИИ») используется, когда речь идет о реализации узких задач в медицинской диагностике, электронных торговых платформах, управлении роботами. Тогда как Strong AI («сильный ИИ») исследователи определяют как интеллект, перед которым ставятся глобальные задачи, как если бы их ставили перед человеком.

Использование в целях обороны и в военном деле

К 2025 году показатель продаж соответствующих сервисов, программного обеспечения и оборудования в глобальном масштабе поднимется до 18,82 млрд долларов, а ежегодный рост рынка составит 14,75%. ИИ применяется для агрегации данных, в биоинформатике, при обучении войск, в оборонном секторе.

В образовании

Многие школы включают в образовательный курс информатики ознакомительные уроки по ИИ, а университеты широко применяют технологии больших данных. Некоторые программы контролируют поведение учащихся, оценивают тесты и эссе, распознают ошибки в произношении слов и предлагают варианты исправления.

Также существуют онлайн-курсы по искусственному интеллекту. Например, у образовательного портала .

В бизнесе и торговле

В ближайшие пять лет у ведущих ретейлеров появятся мобильные приложения, которые будут работать с цифровыми помощниками, такими как Siri, чтобы упростить процесс совершения покупок. ИИ позволяет зарабатывать огромные суммы в интернете. Один из примеров - Amazon, который постоянно анализирует потребительское поведение и совершенствует алгоритмы.

Где можно учиться по теме #искусственный интеллект

В электроэнергетике

ИИ помогает прогнозировать генерацию и спрос на энергоресурсы, снижать потери, предотвращает кражи ресурсов. В электроэнергетике использование ИИ при анализе статистических данных помогает выбрать наиболее выгодного поставщика или автоматизировать обслуживание клиентов.

В производственной сфере

Согласно опросу McKinsey, проведенному среди 1300 руководителей, 20% предприятий уже применяют ИИ. Недавно компания «Моссельпром» внедрила ИИ у себя на производстве в цеху упаковки. Используется способность ИИ к распознаванию изображения. Камера фиксирует все действия работника, сканируя штрих-код, нанесенный на одежду, и отправляет данные в компьютер. Количество совершенных операций напрямую влияет на оплату труда сотрудника.

В пивоварении

Carlsberg использует машинное обучение для отбора дрожжей и расширения ассортимента. Технология реализуется на базе цифровой облачной платформы.

В банковской сфере

Потребность в надежной обработке данных, развитие мобильных технологий, доступность информации и распространение программного обеспечения с открытым исходным кодом делают ИИ востребованной технологией в банковском секторе. Все больше банков привлекают заемные средства с помощью компаний-разработчиков мобильных приложений. Новые технологии улучшают обслуживание клиентов, и, как предсказывают аналитики, уже через пять лет ИИ в банках будет принимать большинство решений самостоятельно.

На транспорте

Развитие технологий ИИ - драйвер транспортной отрасли. Мониторинг состояния дорог, обнаружение пешеходов или объектов в неположенных местах, автономное вождение, облачные сервисы в автомобилестроении - лишь немногие примеры применения ИИ на транспорте.

В логистике

Возможности ИИ позволяют компаниям более эффективно прогнозировать спрос и выстраивать цепи поставок с минимальными затратами. ИИ помогает сократить количество используемых транспортных средств, необходимых для перевозки, оптимизировать время доставки, снизить эксплуатационные расходы транспорта и складских помещений.

На рынке предметов и услуг роскоши

Люксовые бренды также обратились к цифровым технологиям, чтобы анализировать потребности клиентов. Одна из задач, которая ставится перед разработчиками в этом сегменте, - управление эмоциями клиентов и влияние на них. Dior уже адаптирует ИИ для управления взаимодействием клиента и бренда с помощью чат-ботов. Люксовые бренды будут конкурировать в будущем, и решающим будет уровень персонализации, которого они смогут достичь с помощью ИИ.

В госуправлении

Государственные аппараты многих стран пока не готовы к вызовам, которые спрятаны в технологиях ИИ. Согласно прогнозам экспертов, многие из существующих правительственных структур и процессов, которые развивались в течение последних нескольких столетий, вероятно, станут неактуальными в ближайшем будущем.

В криминалистике

Разные подходы ИИ применяются для выявления преступников в общественных местах. В некоторых странах, например в Голландии, полиция использует ИИ для расследования сложных преступлений. Цифровая криминалистика - развивающаяся наука, которая требует интеллектуального анализа огромных объемов очень сложных наборов данных.

В судебной системе

Разработки в области искусственного интеллекта помогут кардинально изменить судебную систему, сделать ее более справедливой и свободной от коррупции. Одними из первых ИИ в судебной системе стал применять Китай. Можно предположить, что роботы-судьи со временем смогут оперировать большими данными из хранилищ государственных служб. Машинный интеллект анализирует огромное количество данных, и он не испытывает эмоции, как судья-человек. ИИ может оказать огромное влияние на обработку информации и сбор статистики, а также прогнозировать возможные правонарушения исходя из анализа данных.

В спорте

Применение ИИ в спорте стало обычным явлением в последние годы. Спортивные команды (бейсбол, футбол и т.д.) анализируют индивидуальные данные о производительности игроков, учитывая разные факторы при подборе. ИИ может предсказать будущий потенциал игроков, анализируя технику игры, физическое состояние и другие данные, а также оценить их рыночную стоимость.

В медицине здравоохранении

Эта сфера применения стремительно развивается. ИИ используется в диагностике заболеваний, клинических исследованиях, при разработке лекарств и при создании медицинских страховок. Кроме того, сейчас наблюдается бум инвестирования в многочисленные медицинские приложения и устройства.

Анализ поведения граждан

Наблюдение за поведением граждан широко применяется в сфере безопасности, в том числе отслеживается поведение на сайтах (в социальных сетях) и в мессенджерах. Например, в 2018 году китайским ученым удалось выявить 20 тысяч потенциальных самоубийц и оказать им психологическую помощь. В марте 2018 года Владимир Путин поручил активизировать действия государственных органов по борьбе с негативным воздействием деструктивных движений в социальных сетях.

В развитии культуры

Алгоритмы ИИ начинают генерировать художественные произведения, которые сложно отличить от созданных человеком. ИИ предлагает людям творческих профессий множество инструментов для воплощения замыслов. Именно сейчас меняется понимание роли художника в широком смысле, так как ИИ дает массу новых методов, но и ставит перед человечеством много новых вопросов.

Живопись

Искусство издавна считалось исключительной сферой человеческого творчества. Но оказалось, что машины могут сделать гораздо больше в творческой сфере, чем люди могут себе представить. В октябре 2018 года Christie’s продал первую картину, созданную ИИ, за 432 500 долларов. Использовался алгоритм генеративной состязательной сети, который анализировал 15 000 портретов, созданных между XV и XX веком.

Музыка

Разработано несколько музыкальных программ, которые используют ИИ для создания музыки. Как и в других областях, ИИ в этом случае также имитирует умственную задачу. Заметной особенностью является способность алгоритма ИИ учиться на основе полученной информации, такой как технология компьютерного сопровождения, которая способна слушать и следовать за человеком-исполнителем. ИИ также управляет так называемой интерактивной композиционной технологией, в которой компьютер сочиняет музыку в ответ на выступление живого музыканта. В начале 2019 года Warner Music заключила первый в истории контракт с исполнителем - алгоритмом Endel. По условиям контракта, в течение года нейросеть Endel выпустит 20 уникальных альбомов.

Фотография

ИИ быстро меняет наше представление о фотографии. Всего через пару лет большинство достижений в этой сфере будут ориентированы на ИИ, а не на оптику или сенсоры, как раньше. Прогресс в технологии фотографии впервые не будет связан с физикой и создаст совершенно новый способ фотомышления. Уже сейчас нейросеть распознает малейшие изменения при моделировании лиц в фоторедакторах.

Видео: замена лиц

В 2015 году Facebook начала тестировать на сайте технологию DeepFace. В 2017 Reddit-юзер DeepFakes придумал алгоритм, позволяющий создавать реалистичные видео с заменой лица, используя нейросети и машинное обучение.

СМИ и литература

В 2016 году ИИ Google, проанализировав 11 тысяч неизданных книг, начал писать свои первые литературные произведения. Исследователи Facebook AI Research в 2017 году придумали систему нейросетей, которая умеет писать стихи на любую тему. В ноябре 2015 года направление подготовки автоматических текстов открыла российская компания «Яндекс».

Игры го, покер, шахматы

В 2016 году ИИ обыграл человека в го (игра, в которой более 10 100 вариантов). В шахматах суперкомпьютер победил человека-игрока из-за возможности хранения в памяти когда-либо сыгранных людьми ходов и программирования новых на 10 шагов вперед. В покер сейчас играют боты, хотя раньше считалось, что компьютер почти невозможно обучить играть в эту карточную игру. С каждым годом разработчики все более совершенствуют алгоритмы.

Распознавание лиц

Технология распознавания лиц применяется как для фото-, так и видеопотоков. Нейронные сети выстраивают векторный, или «цифровой», шаблон лица, далее происходит сравнение этих шаблонов внутри системы. Она находит опорные точки на лице, которые определяют индивидуальные характеристики. Алгоритм вычисления характеристик различен для каждой из систем и является главным секретом разработчиков.

Для дальнейшего развития и применения ИИ необходимо обучать прежде всего человека

Сергей Ширкин

Декан факультета Искусственного интеллекта

Технологии искусственного интеллекта в таком виде, в каком они применяются сейчас, существуют около 5–10 лет, но для того, чтобы их применить, как это ни странно, требуется большое количество людей. Соответственно, основные расходы в сфере искусственного интеллекта - это расходы на специалистов. Тем более что почти все базовые технологии искусственного интеллекта (библиотеки, фреймворки, алгоритмы) бесплатны и находятся в открытом доступе. Одно время найти специалистов по машинному обучению было практически невозможным делом. Но сейчас, во многом благодаря развитию MOOC (англ. Massive Open Online Course, массовый открытый онлайн-курс) их становится больше. Высшие образовательные учреждения тоже поставляют специалистов, но и им часто приходится доучиваться на онлайн-курсах.

Сейчас искусственный интеллект вполне может распознать, что человек задумал сменить работу, и может предложить ему соответствующие онлайн-курсы, многие из которых можно проходить, имея в наличии лишь смартфон. А это означает, что заниматься можно даже находясь в пути - например, по дороге на работу. Одним из первых таких проектов был онлайн-ресурс Coursera, но позже появилось много подобных образовательных проектов, каждый из которых занимает определенную нишу в онлайн-образовании.

Нужно понимать, что ИИ, как и любая программа, - это прежде всего код, то есть определенным образом оформленный текст. Этот код нуждается в развитии, обслуживании и совершенствовании. К сожалению, само собой это не происходит, без программиста код не может «ожить». Поэтому все страхи о всемогуществе ИИ не имеют оснований. Программы создаются под строго определенные задачи, они не обладают чувствами и устремлениями подобно человеку, они не совершают действий, которые в них не заложил программист.

Можно сказать, что в наше время ИИ обладает лишь отдельными навыками человека, хотя и может в быстроте их применения опережать среднестатистического человека. Правда, на выработку каждого такого навыка тратятся многочасовые усилия тысяч программистов. Самое большое, на что пока способен ИИ - автоматизировать некоторые физические и умственные операции, освобождая тем самым людей от рутины.

Несет ли применение ИИ какие-то риски? Скорее сейчас существует риск не разглядеть возможность применения технологий искусственного интеллекта. Многие компании осознают это и пытаются развиваться сразу в нескольких направлениях в расчете на то, что какое-то из них может «выстрелить». Показателен пример интернет-магазинов: сейчас на плаву остались только те, кто осознал необходимость применения ИИ, когда это еще не было в тренде, хотя вполне можно было «сэкономить» и не приглашать непонятно зачем нужных математиков-программистов.

Перспектива развития искусственного интеллекта

Компьютеры теперь могут делать многое из того, что раньше могли делать только люди: играть в шахматы, распознавать буквы алфавита, проверять орфографию, грамматику, распознавать лица, диктовать, говорить, выигрывать игровые шоу и многое другое. Но скептики упорствуют. Как только удается автоматизировать очередную человеческую способность, скептики говорят, что это лишь еще одна компьютерная программа, а не пример самообучающегося ИИ. Технологии ИИ только находят широкое применение и имеют огромный потенциал роста во всех сферах. Со временем человечество будет создавать все более мощные компьютеры, которые будут все более совершенствоваться в развитии ИИ.

Является ли целью ИИ поместить человеческий разум в компьютер?

Существует только приблизительное понимание того, как работает человеческий мозг. Пока далеко не все свойства разума возможно имитировать с помощью ИИ.

Сможет ли ИИ достичь человеческого уровня интеллекта?

Ученые стремятся к тому, чтобы ИИ мог решать еще больше разнообразных задач. Но о достижении уровня человеческого интеллекта говорить преждевременно, так как мышление не сводится только к одним алгоритмам.

Когда искусственный интеллект сможет достичь уровня человеческого мышления?

На данном этапе накопления и анализа информации, который сейчас достигнут человечеством, ИИ далек от человеческого мышления. Однако в будущем могут возникнуть прорывные идеи, которые повлияют на резкий скачок в развитии ИИ.

Может ли компьютер стать интеллектуальной машиной?

Часть любой сложной машины - это компьютерная система, и тут возможно говорить только об интеллектуальных компьютерных системах. Сам компьютер не обладает интеллектом.

Есть ли связь между скоростью и развитием интеллекта у компьютеров?

Нет, скорость отвечает только за некоторые свойства интеллекта. Самой по себе скорости обработки и анализа информации недостаточно, чтобы появился интеллект.

Возможно ли создать детскую машину, которая могла бы развиваться с помощью чтения и самообучения?

Это обсуждается исследователями уже почти сто лет. Вероятно, идея когда-нибудь будет реализована. На сегодня программы ИИ не обрабатывают и не используют столько информации, сколько могут делать дети.

Как связаны с ИИ теория вычислимости и вычислительная сложность?

Теория вычислительной сложности фокусируется на классификации вычислительных задач в соответствии с присущей им сложностью и связывании этих классов друг с другом. Вычислительная задача - это задача, решаемая компьютером. Задача вычисления разрешима механическим применением математических шагов, таких как алгоритм.

Заключение

Искусственный интеллект уже оказал огромное влияние на развитие нашего мира, что было невозможно предсказать еще столетие назад. «Умные» телефонные сети маршрутизируют звонки более эффективно, чем любой человек-оператор. Автомобили строятся на беспилотных заводах автоматизированными роботами. Искусственный интеллект интегрируется в самые обычные бытовые предметы, например в пылесос. Механизмы ИИ до конца не изучены, но эксперты прогнозируют, что развитие ИИ еще более приблизится к развитию человеческого мозга уже в ближайшие годы.

Борис Кобринский, доктор медицинских наук, заведующий лабораторией Института современных информационных технологий в медицине ФИЦ ИУ РАН, профессор Российского национального исследовательского медицинского университета им. Н. И. Пирогова.

- В чем различие интеллекта искусственного и человеческого? Справедливо ли вообще называть ИИ интеллектом?

Естественный интеллект характеризуется многочисленными функциями. Часть из них реализуется в системах ИИ, но главным отличием естественного интеллекта от искусственного является способность синтезировать новые знания, выявлять неизвестные закономерности. Искусственный интеллект - это устоявший термин, однако связанный с не совсем точным переводом с английского. Artificial Intelligence означает «умение рассуждать разумно». Создаваемые на этой основе системы более корректно называть системами с элементами искусственного интеллекта.

- Можно ли говорить, что искусственный интеллект - не более чем орудие человеческого?

Вряд ли стоить говорить в такой формулировке. Интеллектуальные системы являются консультативными или ассистирующими в принятии решений человеком.

Было бы важно дать читателю популярное описание математического аппарата, на котором работает ИИ. И что он собой представляет с точки зрения чисто технической: просто мощные суперкомпьютеры? Или нужны какие-то специальные средства и устройства?

Большинство систем ИИ с самого начала опирались не на математический аппарат, а на логику с использованием средств для диалога с пользователем на естественном языке (логико-лингвистические системы), чего не умели предшествующие вычислительные системы. В настоящее время гибридные интеллектуальные системы включают наряду с логикой также и различные математические методы анализа. Но обязательным для интеллектуальных систем является база знаний, содержащая формализованные знания для конкретной области, для чего используются различные языки представления знаний. Для работы этих систем используются обычные компьютеры. Суперкомпьютеры лишь позволяют ускорить обработку данных, что важно для динамических систем реального времени - например, в управлении двигателями космического корабля и существенно, например, для прогнозов погоды. Исключением являются нейросети, в которых осуществляется математическая обработка введенной информации, однако отсутствует аргументация и логика решений, отсутствуют база знаний предметной области и объяснение выдвигаемых гипотез (решений). Но нейросетевой подход - это технология, имитирующая до некоторой степени работу мозга, истинное представление о которой пока остается открытым.

Мы не понимаем (по большому счету), как работает мозг человека. А полностью ли сейчас понятно, как работает ИИ? Или уже появились такие как бы черные ящики, где происходит нечто неопределенное?

Полноценные интеллектуальные системы, как уже отмечено выше, характеризуются как раз тем, что пользователь получает объяснение выдвигаемых системой гипотез как в процессе их рассмотрения, так и по завершении работы (окончательная гипотеза). Черными ящиками являются нейросети, не выдающие объяснений.

Есть шутка, что ИИ на известную школьную риторику «а если все прыгнут с пятого этажа, ты тоже прыгнешь?» ответит: «да». Насколько это шутка? Каковы вообще когнитивные возможности искусственного интеллекта, будут ли они когда-нибудь сопоставимы с человеческими?

Роботов обучают по-разному, но имеется подход, основанный на обучении на примерах. Если его использовать, то теоретически можно было бы добиться, чтобы робот не в шутку прыгал с любого этажа. Но он разобьется и больше не прыгнет. В то же время когнитивные способности систем на основе ИИ растут. Но взвешенная оценка говорит о том, что искусственный интеллект не сможет сравниться с естественным, по крайней мере, в изобретении нового. Мы не знаем, как человек изобрел колесо, аналогов которого в природе нет. Как обучить подобному ИИ. Новое знание возникает в мозге далеко не каждого человека.

Теперь более практический вопрос: в каких сферах ИИ надежно заменит человеческий? Где у него будет преимущество? Где он никогда не сравнится с человеком? Например, есть ли шанс, что он справится с одной из открытых проблем математики - скажем, докажет алгебраическую независимость чисел ϖ и е?

ИИ способен быстро перебирать различные варианты, он может заменить человеческий или обеспечить помощь человеку во многих областях с известным или понятным подходом к принятию решений: в анализе данных с учетом многообразных связей, в выборе оптимальных решений, в мониторинге ситуаций и управлении; роботы могут выполнять различные работы (в трудных условиях, в доме, на производстве, в здравоохранении и др.). Интеллектуальные системы поддержки принятия решений будут помощниками людей. Роботы заменят их во многих работах, где можно построить алгоритмы действий человека. Возможно, что и в математике, при доказывании теорем, ИИ сможет в перспективе решать сложные задачи. Но вновь должен отметить, что ему будет недоступно открывать принципиально новые направления в науке.

- Возможны ли сообщества искусственных интеллектов? Взаимопомощь и осознание общих интересов?

Да, сообщества представителей ИИ и их взаимопомощь возможны. Это развитие сегодняшних многоагентных систем - виртуальных сообществ интеллектуальных агентов, каждый из которых взаимодействует с другим, и имеются агенты более высокого уровня, координаторы и наблюдатели, обеспечивающие изменение программы взаимодействия интеллектуальных агентов.

- Появятся ли у искусственного интеллекта творческие способности? Наитие?

Если под творчеством понимать развитие известного, то да, если создание совсем неизвестного ранее, то нет. Наитие следует отнести к последнему. А вот ассоциативные связи уже имеют место в системах ИИ.

- В частности, врачебную интуицию, о которой у вас есть работы, может заменить ИИ?

Интеллектуальные системы, основанные на экспертных знаниях высококвалифицированных врачей, обладающих интуицией и образным мышлением, могут включать интуитивные представления в том случае, когда их удается извлечь для формирования базы знаний. Мой опыт показывает, что этого можно достигнуть при групповом извлечении знаний за счет вскрытия врачебной интуиции одного эксперта путем вопросов к другим экспертам при умелом управлении дискуссией.

Конкуренция искусственных интеллектов - страновая или на уровне компаний - насколько она жесткая? Каково место России в гонке ИИ?

В явном виде конкуренции между странами нет. Может быть, можно говорить об ученых, которые следят за работами друг друга. На уровне компаний это связано с получением финансовых средств на разработку и/или на получение прибыли по законченным работам. В России период 70-х - начала 90-х годов прошлого века сопровождался созданием большого числа систем и интересными теоретическими разработками. Последующее недофинансирование работ в этой области привело к спаду. Хотя работы не остановились. Рассматривая в качестве примера медицину, приходится отметить, что, несмотря на неоднократные заявления о необходимости таких систем, их финансирование практически отсутствует, за исключением работ по грантам в системе РАН. Положительными примерами в этой области могут служить разработки Федерального исследовательского центра «Информатика и управление» РАН (интеллектуальная система в области здоровьесбережения, ориентированная на управление рисками при инфаркте миокарда, инсульте и депрессии, и интеллектуальные системы автоматизированной поддержки медицинских исследований, реализованные на основе ДСМ-метода автоматического порождения гипотез) и Института автоматики и процессов управления ДВО РАН (диагностика болезней пищеварения и другие, реализованные на основе онтологий).

- Опишите, пожалуйста, какие угрозы несет с собой развитие ИИ.

Мне представляется неправильным говорить об угрозах искусственного интеллекта. Опасность может нести применение искусственного интеллекта в устройствах, работающих рядом с людьми или заменяющих персонал, например в больницах. Недоучет факторов, которые могут приводить к травмам окружающих, следует рассматривать как основную угрозу в настоящее время и в будущем. Это касается и автопилотов, и систем контроля различных производственных процессов, обеспечения функционирования так называемых умных больниц.

В этом году компания «Яндекс» запустила голосового помощника «Алиса». Новый сервис позволяет пользователю прослушивать новости и погоду, получать ответы на вопросы и просто общаться с ботом. «Алиса» иногда дерзит , порой кажется почти разумной и по-человечески саркастичной , но часто не может разобраться, о чём её спрашивают, и садится в лужу.

Всё это породило не только волну шуток, но и новый виток дискуссий о развитии искусственного интеллекта. Новости о том, чего добились умные алгоритмы, сегодня приходят чуть ли не каждый день, а машинное обучение называют одним из самых перспективных направлений, которому можно себя посвятить.

Чтобы прояснить главные вопросы об искусственном интеллекте, мы побеседовали с Сергеем Марковым, специалистом по искусственному интеллекту и методам машинного обучения, автором одной из самых сильных отечественных шахматных программ SmarThink и создателем проекта «XXII век» .

Сергей Марков,

специалист по искусственному интеллекту

Развенчивая мифы об ИИ

так что же такое «искусственный интеллект»?

Понятию «искусственный интеллект» в какой-то мере не повезло. Возникшее изначально в научной среде, оно со временем проникло в фантастическую литературу, а через неё - в поп-культуру, где претерпело целый ряд изменений, обросло множеством интерпретаций и в конце-концов было совершенно мистифицировано.

Именно поэтому мы часто слышим от неспециалистов примерно такие заявления: «ИИ не существует», «ИИ невозможно создать». Непонимание сути исследований, ведущихся в сфере ИИ, легко приводит людей и к другим крайностям - например, современным системам ИИ приписывают наличие сознания, свободной воли и секретных мотивов.

Давайте попробуем отделить мух от котлет.

В науке искусственным интеллектом называют системы, предназначенные для решения интеллектуальных задач.

В свою очередь, интеллектуальная задача - это задача, которую люди решают при помощи собственного интеллекта. Заметим, что в данном случае специалисты сознательно уходят от определения понятия «интеллект», поскольку до появления систем ИИ единственным примером интеллекта был интеллект человеческий, и определить понятие интеллекта на основе единственного примера - то же самое, что пытаться провести прямую через единственную точку. Таких прямых может оказаться сколько угодно много, а значит, спор о понятии интеллекта можно было бы вести столетиями.

«сильный» и «слабый» искусственный интеллект

Системы ИИ делятся на две большие группы.

Прикладной искусственный интеллект (также используют термин «слабый ИИ» или «узкий ИИ», в английской традиции - weak/applied/narrow AI) - это ИИ, предназначенный для решения какой-либо одной интеллектуальной задачи или их небольшого множества. К этому классу относятся системы для игры в шахматы, го, распознавания образов, речи, принятия решения о выдаче или невыдаче банковского кредита и так далее.

В противоположность прикладному ИИ вводят понятие универсального искусственного интеллекта (также «сильный ИИ», по-английски - strong AI/Artificial General Intelligence) - то есть, гипотетического (пока что) ИИ, способного решать любые интеллектуальные задачи.

Часто люди, не зная терминологии, отождествляют ИИ с сильным ИИ, из-за этого и возникают суждения в духе «ИИ не существует».

Сильного ИИ действительно пока не существует. Практически все успехи, которые мы наблюдаем в последнее десятилетие в области ИИ, - это успехи прикладных систем. Эти успехи нельзя недооценивать, так как прикладные системы в ряде случаев способны решать интеллектуальные задачи лучше, чем это делает универсальный человеческий интеллект.

Я думаю, вы заметили, что понятие ИИ - довольно широкое. Скажем, устный счёт - это тоже интеллектуальная задача, и это значит, что любая счётная машина будет считаться системой ИИ. А как насчёт счётов? Абака ? Антикитерского механизма ? Действительно, всё это формально хотя и примитивные, но системы ИИ. Однако обычно, называя какую-то систему системой ИИ, мы тем самым подчёркиваем сложность решаемой этой системой задачи.

Совершенно очевидно, что разделение интеллектуальных задач на простые и сложные - весьма искусственное, и наши представления о сложности тех или иных задач постепенно меняются. Механическая счётная машина была чудом техники в XVII веке, но сегодня людей, с детства сталкивающихся с куда более сложными механизмами, она уже не способна впечатлить. Когда игра машин в го или автомобильные автопилоты уже перестанут удивлять публику, наверняка найдутся люди, которые будут морщиться из-за того, что кто-то будет относить такие системы к ИИ.

«Роботы-отличники»: о способностях ИИ к обучению

Ещё одно забавное заблуждение - всенепременное наличие у систем ИИ способности к самообучению. С одной стороны, это совсем не обязательное свойство систем ИИ: есть множество удивительных систем, не способных самообучаться, но, тем не менее, решающих многие задачи лучше человеческого мозга. С другой стороны, некоторые люди просто не знают того, что самообучение - свойство, которые многие системы ИИ обрели ещё более полусотни лет назад.

Когда в 1999 году я писал свою первую шахматную программу, самообучение уже было совершенно общим местом в этой области - программы умели запоминать опасные позиции, подстраивать под себя дебютные варианты, регулировать стиль игры, подстраиваясь под соперника. Конечно, тем программам было ещё очень далеко до Alpha Zero . Тем не менее, даже системы, обучающиеся поведению на основе взаимодействия с другими системами в ходе экспериментов по так называемому «обучению с подкреплением», уже существовали. Однако по необъяснимой причине некоторые люди до сих пор думают, что способность к самообучению - это прерогатива человеческого интеллекта.

Машинное обучение, целая научная дисциплина, занимается процессами обучения машин решению тех или иных задач.

Существует два больших полюса машинного обучения - обучение с учителем и обучение без учителя.

При обучении с учителем у машины уже есть некоторое количество условно правильных решений для некоторого набора случаев. Задача обучения в таком случае заключается в том, чтобы научить машину на основе имеющихся примеров принимать правильные решения в других, неизвестных ситуациях.

Другая крайность - обучение без учителя . То есть машину ставят в ситуацию, когда правильные решения неизвестны, имеются только данные в сыром, неразмеченном виде. Оказывается, и в таких случаях можно добиться некоторого успеха. Например, можно научить машину выявлению семантических отношений между словами языка на основе анализа очень большого набора текстов.

Одна из разновидностей обучения с учителем - это обучение с подкреплением (reinforcement learning). Идея заключается в том, что система ИИ выступает в роли агента, помещённого в некоторую модельную среду, в которой она может взаимодействовать с другими агентами, например, с собственными копиями, и получать от среды некоторую обратную связь через функцию вознаграждения. Например, шахматная программа, которая играет сама с собой, постепенно подстраивая свои параметры и тем самым постепенно усиливая собственную игру.

Обучение с подкреплением - довольно широкая область, в ней применяют множество интересных методов, начиная от эволюционных алгоритмов и заканчивая байесовской оптимизацией . Последние достижения в области ИИ для игр как раз связаны с усилением ИИ в ходе обучения с подкреплением.

Риски развития технологий: стоит ли бояться «Судного дня»?

Я не отношусь к числу ИИ-алармистов, и в этом смысле я отнюдь не одинок. Например, создатель стэнфордского курса по машинному обучению Эндрю Ын сравнивает проблему опасности ИИ с проблемой перенаселения Марса.

Действительно, в будущем вполне вероятно, что люди колонизируют Марс. Также вероятно, что рано или поздно на Марсе может возникнуть проблема перенаселения, но не совсем понятно, почему мы должны заниматься этой проблемой уже сейчас? Согласны с Ыном и Ян ЛеКун - создатель свёрточных нейронный сетей, и его шеф Марк Цукерберг, и Йошуа Беньо - человек, во многом благодаря исследованиям которого современные нейронные сети способны решать сложные задачи в области обработки текстов.

Чтобы изложить мои взгляды на эту проблему, потребуется, вероятно, несколько часов, поэтому остановлюсь только на основных тезисах.

1. НЕЛЬЗЯ ОГРАНИЧИВАТЬ РАЗВИТИЕ ИИ

Алармисты рассматривают риски, связанные с потенциальным разрушительным воздействием ИИ, при этом игнорируя риски, связанные с попыткой ограничить или даже остановить прогресс в этой области. Технологическое могущество человечества возрастает чрезвычайно быстрыми темпами, что приводит к эффекту, который я называю «удешевлением апокалипсиса».

150 лет назад при всём желании человечество не могло нанести невосполнимого урона ни биосфере, ни себе как виду. Для реализации катастрофического сценария 50 лет назад необходимо было бы сконцентрировать всю технологическую мощь ядерных держав. Завтра для воплощения в жизнь глобальной техногенной катастрофы может хватить и небольшой горстки фанатиков.

Наша технологическая мощь растёт куда быстрее, чем способность человеческого интеллекта эту мощь контролировать.

Если на смену человеческому интеллекту с его предрассудками, агрессией, заблуждениями и ограниченностью не придёт система, способная принимать более взвешенные решения (будь то ИИ или, что я считаю более вероятным, технологически улучшенный и объединённый с машинами в единую систему человеческий интеллект), нас может ждать глобальная катастрофа.

2. создание сверхинтеллекта принципиально невозможно

Существует идея о том, что ИИ будущего всенепременно будет сверхинтеллектом, превосходящим людей даже сильнее, чем люди превосходят муравьёв. Боюсь в данном случае разочаровать и технологических оптимистов - наша Вселенная содержит целый ряд фундаментальных физических ограничений, которые, по всей видимости, сделают создание сверхинтеллекта невозможным.

Например, скорость передачи сигнала ограничена скоростью света, а на планковских масштабах появляется неопределённость Гейзенберга. Отсюда вытекает первый фундаментальный предел - предел Бремерманна, вводящий ограничения на максимальную скорость вычислений для автономной системы заданной массы m.

Другой предел связан с принципом Ландауэра , в соответствии с которым существует минимальное количество теплоты, выделяемое при обработке 1 бита информации. Слишком быстрые вычисления вызовут недопустимый разогрев и разрушение системы. В действительности, современные процессоры от лимита Ландауэра отделяет менее чем тысячекратное отставание. Казалось бы, 1000 - это довольно много, однако ещё одна проблема заключается в том, что многие интеллектуальные задачи относятся к классу сложности EXPTIME. Это означает, что время, необходимое для их решения, является экспоненциальной функцией от размерности задачи. Ускорение системы в несколько раз даёт лишь константный прирост «интеллекта».

В общем, есть очень серьёзные основания полагать, что сверхинтеллектуального сильного ИИ не получится, хотя, конечно, уровень человеческого интеллекта вполне может быть превзойдён. Насколько это опасно? Скорее всего, не очень.

Представьте себе, что вы внезапно начали думать в 100 раз быстрее остальных людей. Значит ли это, что вы легко будете способны уговорить любого прохожего отдать вам свой кошелёк?

3. мы беспокоимся совсем не о том

К сожалению, в результате спекуляций алармистов на страхах публики, воспитанной на «Терминаторе» и знаменитом HAL 9000 Кларка и Кубрика, происходит смещение акцентов в сфере безопасности ИИ в сторону анализа маловероятных, но эффектных сценариев. При этом реальные опасности ускользают из виду.

Любая достаточно сложная технология, претендующая на то, чтобы занять важное место в нашем технологическом ландшафте, безусловно приносит с собой специфические риски. Множество жизней было погублено паровыми машинами - на производстве, на транспорте и так далее - прежде чем были выработаны эффективные правила и меры по обеспечению безопасности.

Если говорить о прогрессе в области прикладного ИИ, можно обратить внимание на связанную с ним проблему так называемого «Цифрового тайного суда» . Всё больше и больше прикладных систем ИИ принимает решения по вопросам, затрагивающим жизнь и здоровье людей. Сюда относятся и медицинские диагностические системы, и, например, системы, принимающие в банках решения о выдаче или невыдаче кредита клиенту.

В то же время структура используемых моделей, наборы используемых факторов и другие детали процедуры принятия решения скрыты коммерческой тайной от человека, чья судьба находится на кону.

Используемые модели могут основывать свои решения на мнениях учителей-экспертов, допускавших систематические ошибки или имевших те или иные предрассудки - расовые, гендерные.

ИИ, обученный на решениях таких экспертов, будет добросовестно воспроизводить эти предрассудки в своих решениях. В конце концов эти модели могут содержать в себе специфические дефекты.

Этими проблемами сейчас мало кто занимается, поскольку, конечно, SkyNet, развязывающий ядерную войну, это, безусловно, куда более зрелищно.

Нейросети как «горячий тренд»

С одной стороны, нейронные сети - это одна из самых старинных моделей, применяющихся для создания систем ИИ. Появившиеся изначально в результате применения бионического подхода , они довольно быстро убежали от своих биологических прототипов. Исключением тут являются только импульсные нейронные сети (впрочем, пока не нашедшие широкого применения в индустрии).

Прогресс последних десятилетий связан с развитием технологий глубокого обучения - подхода, при котором нейронные сети собирают из большого количество слоёв, каждый из которых построен на основе определённых регулярных паттернов.

Помимо создания новых нейросетевых моделей важный прогресс был также достигнут в области технологий обучения. Сегодня нейронные сети учат уже не при помощи центральных процессоров компьютеров, а с использованием специализированных процессоров, способных быстро производить матричные и тензорные вычисления. Наиболее распространённый на сегодняшний день вид таких устройств - видеокарты. Впрочем, активно ведётся разработка ещё более специализированных устройств для обучения нейросетей.

В целом, безусловно, нейронные сети на сегодняшний день, - это одна из основных технологий в области машинного обучения, которой мы обязаны решению многих задач, ранее решавшихся неудовлетворительно. С другой стороны, конечно, нужно понимать, что нейронные сети не являются панацеей. Для некоторых задач они - далеко не самый эффективный инструмент.

Так насколько умны нынешние роботы на самом деле?

Всё познаётся в сравнении. На фоне технологий 2000-го года нынешние достижения выглядят настоящим чудом. Всегда найдутся люди, любящие побрюзжать. 5 лет назад они вовсю трындели о том, что машины никогда не выиграют у людей в го (ну или, по крайней мере, выиграют очень нескоро). Говорили о том, что машина никогда не сможет нарисовать с нуля картину, в то время как сегодня люди практически неспособны отличать картины, созданные машинами, от картин неизвестных им художников. В конце прошлого года машины научились синтезировать речь, практически неотличимую от человеческой, а в последние годы от музыки, создаваемой машинами, не вянут уши.

Посмотрим, что будет завтра. Я смотрю на эти области применения ИИ с большим оптимизмом.

Перспективные направления: где начать погружение в сферу ИИ?

Я бы посоветовал постараться на хорошем уровне освоить один из популярных нейросетевых фреймворков и один из популярных в области машинного обучения языков программирования (наиболее популярна на сегодняшний день связка TensorFlow + Python).

Овладев этими инструментами и имея в идеале крепкую базу в области математической статистики и теории вероятностей, следует направить свои усилия в ту сферу, которая будет наиболее интересна лично вам.

Интерес к предмету работы - один из самых важных ваших помощников.

Потребность в специалистах по машинному обучению существует в самых разных областях - в медицине, в банковском деле, в науке, на производстве, поэтому сегодня хорошему специалисту предоставлен как никогда широкий выбор. Потенциальные преимущества любой из этих отраслей мне представляются несущественными по сравнению с тем, что работа будет приносить вам удовольствие.