Человечество пока не полетело к звёздам. Да что там говорить, оно не совершило даже пилотируемые полёты к Венере и Марсу, которые фантасты прошлого века считали делом ближайшего будущего. Но кое в чём наша цивилизация превзошла самые смелые прогнозы. Лишь немногие фантасты тридцать-сорок лет назад предвидели появление сотовой связи и интернета. И даже они не представляли, как велика будет роль этих изобретений в повседневной жизни человека.

Поступь прогресса

Электроника совершенствуется стремительно, и, вероятно, темпы её прогресса не снизятся ещё полтора-два десятилетия. Но не стоит опасаться (или надеяться), что они останутся неизменными на протяжении столетий.

Развитие технологий происходит рывками. Так, иначе машина устаревала, ещё не родившись. А потом - как отрезало. Многие самолёты, сконструированные в 1950-е, выпускают до сих пор. Ценой титанических усилий раз в 5-10 лет создают новые модели, которые чуть-чуть безопаснее, немного экономичнее, слегка комфортнее, зато в разы дороже предыдущих.

Прогресс не остановился, но темпы его замедлились до нормы. В определённый момент изделие начинает так хорошо отвечать назначению, что улучшить его сложно, да и не нужно. Взять хотя бы топор: сильно ли его усовершенствовали за последнюю тысячу лет?

Сверхзвуковые авиалайнеры «Конкорд» и Ту-144 - яркая иллюстрация «ограниченности» прогресса. Летать быстрее 800-900 км/ч пассажирскому самолёту оказалось не нужно и слишком дорого, и их вывели из эксплуатации

Сравнение мобильных устройств - телефонов, ноутбуков, планшетов, навигаторов - с топором вполне уместно. Они столь же распространены, только дороже и куда надёжнее. Последнее может показаться спорным: электроника ломается то и дело, а топор, купленный дедом, как лежал на даче, так и будет лежать в полной исправности. Но это потому, что топором пользуются редко. Если тратить на рубку дров столько же времени, сколько на разговоры по мобильнику, станет ясно - телефон-то покрепче будет.

Перспективы усовершенствования электронники необъятны. Но фантасты могут спать спокойно: принципиально цифровые друзья человека почти не изменятся, когда будет достигнут потолок целесообразности. А современный мобильный телефон уже решает большинство задач в области связи, навигации и получения информации. Конечно, лет через 20 технологии позволят сделать его в сто раз миниатюрнее и даже встроить в человеческое тело. Но принцип останется тем же.

Следует ожидать объединения разных мобильных устройств в одно, оптимизированное для постоянного ношения и использования. Оборудование карманного компьютера 19-дюймовым монитором и полноценной клавиатурой представляет собой задачу нетривиальную, но разрешимую. Можно, например, представить гибкий сенсорный экран.

Прогресс вычислительной техники огромен даже за последние пять лет. А вот современные ракеты-носители принципиально не отличаются от разработок Цандера и Королёва

Предпосылки ИИ

В прошлом футурологи опасались, что машины, вытеснив человека из сферы производства, вызовут массовую безработицу. Таким мир торжествующих технологий видел, например, в опубликованном в 1952 году романе «Механическое пианино». Пессимизмом, в сущности, проникнуты и утопии советских авторов, воображение которых рисовало картины поужаснее воннегутовской антиутопии. Предполагалось, что при коммунизме машины заменят человека всюду, где не требуется творческий подход.

К творчеству же большинство людей - давайте смотреть правде в глаза - не способны. В чём легко убедиться в наше время, поглядев в интернете на массу горе-графоманов и горе-музыкантов. Этот момент хорошо обыгран в «Сказке о тройке» : пришелец Константин работает читателем скверных стихов - должен же их хоть кто-то читать! Его труд справедливо считается тяжёлым и вредным для здоровья.

Воннегут совершил ошибку, типичную для мыслителей конца XIX - середины XX века, исходивших из идеи, что у человека есть некий «разумный» уровень потребностей. Философы не учитывали, что технический прогресс удовлетворяет потребности, им же и порождённые. Обеспечивать население персональными автомобилями или персональными компьютерами не планировалось, пока автомобили и компьютеры не были изобретены, - то есть предложение здесь рождает спрос.

Британские учёные полагают, что мозг человека, оставленный электроникой без работы, в будущем начнёт уменьшаться, постепенно сократившись до размера мозга британского учёного (кадр из « »)

Машины заменили людей у станков и на пашне, но это не вызвало массовой безработицы. Освобождённые от физического труда массы были поглощены сферами управления и обслуживания. Цивилизация вошла в постиндустриальную стадию, и вдруг стало ясно, что производство как таковое вообще не представляет собой проблему. Выпуск любого товара в любом количестве можно в любой момент организовать в любой точке Китая.

Загвоздка только в реализации продукта. Значит, главный трудяга, создающий богатство нации, - скромный менеджер, изредка поднимающий телефонную трубку и неохотно отрывающийся от жизни в соцсетях, чтобы переложить файл из одной папки в другую. И это перекладывание ныне создаёт прибавочную стоимость, за которую менеджеру платят деньги.

Технический прогресс не вызвал социальной катастрофы - можно не опасаться этого и в будущем. Даже если роботы сумеют согнать с насиженных мест офисный планктон, останется ещё сфера услуг. Появятся новые специальности - хотя бы те же профессиональные читатели. Должен же кто-то принять на себя удар несущейся на человека информационной лавины? Специально обученные люди встанут на пути неконтролируемо множащихся публикаций, отбирая из тысяч те немногие, которые стоит читать (пахнет цензурой, не так ли?).

Куда важнее другой факт, ещё не осознанный, но уже свершившийся. Освободив человека от физического труда, машина начинает брать на себя и функции его мозга. Многие ли умеют сегодня умножать в столбик и грамотно писать без помощи «спеллчекера»? Впрочем, разобрать каракули, написанные на бумаге привыкшей к клавиатуре рукой, всё равно невозможно.

Доступ к информации и её фиксация упростились до предела. Электроника не просто дополняет человеческую память - всё чаще она её заменяет. А всякая способность утрачивается без упражнения. Можно безуспешно бороться с этой тенденцией, а можно смириться с тем, что до конца века фундаментальные признаки грамотности - умение считать и писать - постигнет участь стрельбы из лука. Когда-то владеть этим икусством было необходимо, потом - полезно, потом бесполезно, но принято. Наконец стрельба превратилась в спорт. Пожалуй, лет через 50 устный счёт и чистописание включат в программу Олимпиады.

Конечно, ситуация внушает беспокойство. Вдруг потребуется помножить семь на восемь, а калькулятора не будет под рукой? Подобные сомнения наверняка терзали и австралопитека, впервые взявшего в руку камень. Привыкнешь, думал он, а потом понадобится раздробить кость, а камня нет. Но если бы австралопитек, побоявшись остаться без камня, принялся упражнять челюсти, это не только оказалось бы глупостью, но и направило бы эволюцию в совершенно иное, не ведущее к человеку разумному русло. Наша сила, грозящая вот-вот стать богоравной, - именно в нашей неспособности обойтись без орудий.

Мир меняется. Умение считать заменяется умением пользоваться калькулятором (точнее, уже компьютером). Значит, именно обращению с этим устройством следует учить. Для того же, чтобы владеть калькулятором, требуется понимать суть арифметических действий, тригонометрических функций, возведения в степень, извлечения корня, логарифма. А знать таблицу умножения - излишне.

Тест Тьюринга

Ограничится ли дело только лишь памятью и способностью к счёту? Что ещё может заменить (а значит, неизбежно заменит) искусственный интеллект? В 1950 году математик Алан Тьюринг предложил оценивать искусственный интеллект по умению программы выдать себя за человека. Если квалифицированный, специально готовившийся к испытанию экзаменатор, знающий, что один из его невидимых собеседников робот, а второй - человек, в 30% случаев ошибётся, пытаясь определить, кто есть кто, - можно считать, что машина научилась мыслить. Почему 30 процентов, а не 50, которые означали бы, что различий нет в принципе и угадать удаётся только случайно? Потому что для действительно безупречного притворства необходим некий «запас прочности», вот и всё.

Победа компьютера, обоснованно полагал Тьюринг, будет означать, что машина способна заменить человека. Робота можно посадить на телефон, и на другом конце провода никто не заметит разницы. Программа скажет то, что сказал бы человек, и даже отдаст такие же распоряжения, которые отдал бы человек на её месте.

Чемпион мира по шахматам Гарри Каспаров играет против компьютера Deep Blue в 1997 году. Каспаров проиграл, расстроился, отказался признавать результаты матча и зарёкся впредь играть с роботами

Сейчас боты вплотную подошли к преодолению барьера. Пессимисты считают, что он будет преодолён в ближайшие 15 лет, оптимисты же полагают, что успех уже пора отмечать. В августе 2012 года российская программа «Евгений» набрала на тесте 29,2%. А ведь речь идёт о состязании робота со специалистами, пытающимися разоблачить бота изощрёнными и каверзными методами.

В ближайшем будущем реальностью станет то, на что у фантастов не хватает воображения. Появятся, например, телефоны, которые сами, через неравные (чтобы пунктуальность не показалась подозрительной) промежутки времени будут обзванивать пожилых родственников хозяина, справляясь об их здоровье, терпеливо выслушивать пересказы сериалов, анализировать рост цен на гречку и вступать в полемику о воспитании пуделей. В рабочее время такой аппарат сможет вести переговоры с клиентами и лепетать оправдания, услышав в трубке начальственный голос. Обладатель которого, впрочем, в этот момент будет рубиться на том же игровом сервере, что и подчинённые, поручив имитацию руководства своему телефону.

Речь идёт лишь об имитации, не так ли? Робот продаёт морозильное оборудование, общается на форуме, причём постит страшную чушь, и его даже банят за хамство… Программа не думает, а лишь симулирует мыслительный процесс человека, просчитывая, какие решения могли бы быть приняты им в данной ситуации. Но и шахматный суперкомпьютер на самом-то деле в шахматы не играет. Он просто преобразует входящий сигнал по сложному алгоритму.

А не замахнуться ли нам…

Какая разница между «мыслит» и «не мыслит», если результат одинаков? Где граница между качественной подделкой, доступной уже сейчас, и остающимся фантастикой разумным дроидом C-3PO из кинофильма «Звёздные войны»? Теоретически разницу можно будет заметить. Например, виртуальный менеджер среднего звена, удостоверившись, что фотография на личной странице девушки отвечает критериям привлекательности, будет пытаться назначить ей свидание, не замечая, что это фотография Миллы Йовович времён «Пятого элемента». Человек такой ошибки не совершит.

Но это в теории. В реальности программа будет знать в тысячу раз больше уловок и методов их распознавания, чем живой пользователь. И уж подавно больше, чем обаятельный, но простодушный дроид. Скорее всего, бот просто взломает сервер и сверит фотографию с паспортными данными.

Для C-3PO каждый разговор с человеком - успешно пройденный тест Тьюринга. В отличие от реальных программ, робот из «Звёздных войн» разумен и обладает не только интеллектом, но и чувствами

Тем не менее разум - нечто большее, чем интеллект. Разумной можно назвать лишь машину, обладающую волей и сознанием. И как взяться за её создание, не слишком-то ясно. Не потому, что сознание - столь уж великая тайна. Просто появ ление «железа», способного потянуть такой софт, ожидается только лет через сорок. И это при сохранении прежних темпов развития электроники, на что вряд ли можно рассчитывать.

В природе программы - безусловные рефлексы - пишутся путём отбора мутаций, затрагивающих нервную систему. Это крайне непроизводительный метод, который обеспечивает приемлемые результаты лишь для видов, отличающихся плодовитостью. Именно по этой причине у позвоночных эволюция пошла другим путём. Долгоживущее существо анализирует опыт, вычленяя связи между событиями, затем сопоставляет между собой выявленные закономерности, - и так без конца. Для приобретения условных рефлексов требуется большой и свободный от «врождённого софта» мозг. Метод очень трудоёмок, но потенциально позволяет приспосабливаться к любым условиям.

Но боту не нужно накапливать и анализировать личный опыт. У него есть программист, способный научить всему сразу, а не постепенно, за миллион лет отбора. Поэтому непонятно, стоит ли в принципе браться за создание подлинного машинного разума, если проще написать программу, воспроизводящую любые реакции настоящего C-3PO на внешние раздражители. Благо они столь же предсказуемы, как и у человека. Поддерживая беседу, бот мастерски будет разыгрывать наивность, тугодумие и затруднённую речь, якобы характерные для разумных роботов. Оснащённый интеллектом, но не разумом, бот будет подконтролен - программа не взбунтуется против создателей. Она не личность и не живёт, а значит, удаляя её с диска, не придётся терзаться угрызениями совести.

При этом бот может обучаться и даже способен к творчеству. Программы уже давно пишут музыку, расставляя семь нот в порядке, соответствующем человеческим представлениям о гармонии, - живым композиторам далеко не всегда это удаётся! Боты способны даже делать изобретения, ведь всё новое - это удачная комбинация уже существующих элементов, а просчёт комбинаций - сильное место машин.

Вьетнамский робот-художник Tosy SketRobo создаёт чёрно-белые скетчи, но лишь в рамках заданной программы. Воображения робот лишён

Перспективные направления

Киборгизация

Замена человеческих органов электронными протезами - перспективное направление в трансплантологии. Как далеко может зайти слияние человека с машиной?

В будущем наверняка появится возможность производить крошечные компьютеры, пригодные для вшивания под кожу. Способность подключаться к интернету и по мысленному запросу получать из Сети любые сведения прямо в мозг, минуя органы чувств, кажется привлекательной, особенно на экзаменах. Но в достаточной ли мере человек контролирует свои мысли для того, чтобы управлять таким устройством? И даже если решить эту проблему, останется вторая: мозг не будет расценивать сигнал, поступающий не с глазного нерва, как зрительную информацию.

Знание не возникнет ниоткуда. Человеку по-прежнему придётся читать либо прослушивать текст. Не удобнее ли в таком случае по старинке пользоваться наушниками и экраном? Во всяком случае, это позволит избежать сложной и небезопасной операции по вживлению электродов в нервные волокна.

Кибертранспорт

Ещё в 1988 году автопилот поднял, свёл с орбиты и посадил космический корабль «Буран». А эта задача сложнее, чем управление автомобилем

Уже сегодня сотовый телефон умеет практически всё, но функции грядущего универсального мобильного устройства окажутся ещё шире. Почему, например, навигатор в телефоне лишь подсказывает, куда и когда следует повернуть? Если он такой умный, пусть сам и рулит.

Конечно, управление можно возложить и на бортовой компьютер автомобиля, но это явное излишество. Машине незачем двигаться без пассажира, а человек никуда не денется от своего телефона. Таким образом, один электронный интеллект в салоне присутствовать всегда будет. Для чего тогда нужен второй? Телефон можно будет объединить с автомобилем, вставил в слот - и поехал.

Автомобиль с автопилотом - не фантастика уже сегодня. Конечно, нетрудно представить себе ситуацию на дороге, с которой робот не справится. Но - будем откровенны - представить себе ситуацию, с которой не справится человек, несравненно проще.

Нанороботы

В романах «Непобедимый», «Осмотр на месте», а также в нескольких других произведениях Станислав Лем высказывает предположение, что мы неправильно строим машины. Место больших автоматов должны занять крошечные, однообразные элементы (наноботы), при необходимости образующие из своих тел любые другие конструкции. В том числе и мозг.

Только на таком принципе, кстати, можно создать встречающиеся в фантастике «экспоненциальные машины», которые расширенно воспроизводят себя без участия человека и одновременно совершают какую-то полезную работу. Автомат традиционного типа слишком сложен для размножения, так как состоит из множества деталей, для производства которых требуется разнообразное оборудование, заведомо не помещающееся внутри самой машины.

Аналогия с клетками, составляющими человеческое тело, бросается в глаза. Но, несмотря на впечатляющие успехи миниатюризации, дело не выгорит. Проблема в том, что наши роботы - твёрдые. А все процессы, протекающие в живых организмах, имеют химическую природу и происходят в растворе. Воспроизвести клетку можно, работы в этом направлении уже близки к завершению, но при этом реальная экспоненциальная машина будет просто живым существом со всеми присущими ему слабостями.

* * *

Что бы там ни воображали фантасты, восстания машин не будет. Искусственный интеллект в современном понимании - не более чем имитация. Другой вопрос, насколько реалистичной она может быть. Если робот подумает, что для людей характерно уничтожение себе подобных (а оно, к слову, характерно), он начнёт это уничтожение имитировать. И смешно не покажется. Поэтому три закона Азимова нам всё-таки пригодятся.

В 1832 году коллежский асессор Семен Николаевич Корсаков, пионер российской кибернетики, создал «гомеоскоп» - классифицирующее логическое устройство, которое автоматизировало процесс сравнения идей и понятий. С тех пор системы искусственного интеллекта ушли далеко вперед. О прошлом, настоящем и будущем таких систем рассказал кандидат физико-математических наук, ученый секретарь Курчатовского комплекса НБИКС-технологий НИЦ «Курчатовский институт» Вячеслав Демин в лекции, состоявшейся в образовательном центре «Сириус». «Лента.ру» публикует выдержки из его выступления.

Мозг и компьютер

На данном этапе все усилия по созданию искусственного интеллекта направлены на то, чтобы снять часть нагрузки с человеческого интеллекта, создать помощника для обработки плохо структурированной информации.

Самая очевидная задача - работа с большими объемами информации. Это направление так и называется: «Большие данные» (Big data). Самый яркий пример - Большой адронный коллайдер. БАК генерирует несколько петабайт (1 Пб = 1 000 000 Гб) информации в секунду. Она поступает в различные информационные центры по всему миру, где обрабатывается компьютерами, после чего передается физикам для анализа.

Но работа с большими объемами информации выявила слабое место современных компьютеров. Сейчас в вычислительной технике используется так называемая архитектура фон Неймана: память и процессор физически разделены и общаются друг с другом посредством шины, которая находится между ними. Чтобы выполнить команду, процессор посылает запрос в память, та извлекает из определенной ячейки данные, отправляет их в процессор, затем из памяти запрашивается команда для выполнения и вновь загружается в процессор, и так далее.

Постоянно идет передача данных в обоих направлениях, и узкое горлышко шины ограничивает производительность общего процесса вычислений. Конечно, сегодня эту проблему отчасти снимают многоядерные процессоры, когда информация делится между разными ядрами, обрабатывается в них одновременно, а потом результаты сливаются в каком-то одном ядре.

Человеческий мозг устроен иначе: его архитектура принципиально параллельна, а не последовательна. Память и вычисления в мозге реализуются в одних и тех же структурах - в нейронах. Каждая нервная клетка похожа на крохотный процессор, выполняющий простейшую функцию. Совокупность же большого числа таких элементарных процессоров способна производить довольно сложную обработку нечетко структурированной информации. Если такую схему удастся воплотить и в компьютерах, скопировав принцип действия работы нейронов, это станет прорывом.

У каждой нервной клетки есть отростки - аксоны, по которым передается информация, и дендриты, принимающие информацию. Соединение аксона и дендрита называется синапс. Когда происходит генерация «спайка», то есть собственного электрохимического возбуждения клетки, с помощью нейромедиаторов ток идет от одного нейрона к другому. Синапс при этом пластичен, он может менять эффективность передачи сигнала, варьируя степень выделения при передаче и/или чувствительности приема нейромедиатора.

Кадр: фильм «Я, робот»

Считается, что память формируется за счет пластичности синапсов: некоторый набор синаптических проницаемостей определяет какое-то определенное воспоминание, которое воспроизводится при распространении сигнала через этот набор синапсов. Если ученые смогут создать систему искусственного интеллекта, в которой аппаратно будет использоваться тот же принцип, то есть обработка и хранение информации в одних и тех же функциональных элементах (искусственных нейронах-процессорах с пластичными соединениям между ними), это выведет технологии на новый уровень. Достаточно серьезные и успешные попытки есть, но работы еще очень много.

Распознавание и осмысление

Уже сейчас компьютерные системы неплохо справляются с распознаванием образов и звуков. Но искусственный интеллект по-прежнему не осмысляет данные, любое изображение так и остается для него набором непонятных черточек. Тем не менее компьютер может и номера превышающих скорость автомобилей разобрать, и речь в печатный текст превратить, и понравившуюся песню узнать.

Не осмысляет машина и происходящее на биржах, но, основываясь на накопленных финансовых данных, она научилась довольно точно предсказывать, что произойдет в следующий момент на рынках, и автоматически отдает команду покупать либо продавать акции. Так работает современный «быстрый трейдинг». Прогнозирование (например, погоды или ситуации на дороге) - еще одно направление, успешно реализуемое уже сегодня.

Все эти задачи под антропоморфные алгоритмы решения относятся к так называемым некорректным задачам, когда известны не все данные для их однозначного решения, а значит, и решить такую задачу можно лишь примерно: чем больше существует ее параметров (условий), тем больше вариантов решения. При этом если задача не может быть решена в одно действие, то есть состоит из последовательности шагов, и на каждом шаге есть несколько вариантов допустимых действий, то количество комбинаций, приводящих в итоге к решению задачи, очень быстро растет в зависимости от количества шагов (или «размерностей» задачи). Это называется «проклятием размерностей».

Более того, в реальности на каждом шаге мы видим фактически бесконечное число вариантов допустимых действий (до стакана на столе можно дотянуться бесконечным числом вариантов), а следовательно и общее количество способов решения проблемы бесконечно. Держать все возможные варианты в голове человек просто не может, потому мозг и мыслит только целями и концепциями, решая некорректные задачи лишь приблизительно оптимально и побеждая тем самым «проклятие размерностей».

Фото: Long Hongtao / Xinhua / Zumapress / Globallookpress.com

Это умение и позволяет нам существовать в реальном мире. Человеческий интеллект так может, искусственный - пока очень условно, лишь для ограниченного набора технических задач. При этом обычно под каждую техническую некорректную задачу строится свой алгоритм решения (например, специальная архитектура искусственной нейронной сети), что разительно отличает современный искусственный интеллект от мозга, способного решать все типы предлагаемых ему задач.

Адаптивность

Не может искусственный интеллект пока продемонстрировать и высокую степень адаптивности. Большинству существующих систем не поможет даже полный объем информации о резко меняющихся условиях, чтобы на них среагировать. Выбить стул из-под робота проще простого, даже если он увидит ваше движение. Выбить стул из-под человека, который хоть краем глаза успеет заметить, что что-то происходит, сложнее.

В последнее время в этой области появились успехи: созданы роботы-носильщики (например Big Dog агентства DARPA), способные удерживать равновесие в ответ на толчки и подножки. В то же время это опять специфическая система, разработанная под конкретную задачу и не обладающая универсальностью в адаптации к другим условиям и тем более - в решении других задач.

Но не только ради создания систем искусственного интеллекта следует изучать мозг. Еще одна важная цель находится в области медицины. Примерно 130 миллионов человек в мире страдают от различных болезней мозга. Среди них и всемирно известный физик Стивен Хокинг - у него боковой амиотрофический склероз, он прикован к инвалидному креслу. По каким-то причинам у него в мозге не работают моторные нейроны, которые генерируют сигнал к мышцам, но при этом все остальные участки коры функционируют прекрасно. Все признают, что Хокинг - гений. 67 миллионов человек страдают от болезни Альцгеймера, но полная картина возникновения этого заболевания неясна. Современная наука знает о мозге так много - и в то же время так мало!

Еще одно направление, ради которого необходимо изучать мозг, - это создание интерфейсов «мозг-компьютер». Такая система позволит управлять роботом или любым другим устройством (протез, система «умный дом», смартфон, программа и тому подобное) в буквальном смысле силой мысли, передавая команды с лобных долей коры на компьютер или специальный чип, контролирующий необходимое устройство.

Перспективна и такая область исследований, как создание нейроаниматов, то есть робототехнических устройств, управляемых живыми культурами нервных клеток в пробирке. Суть состоит в том, что на дне лабораторного сосуда, в так называемой чашке Петри, располагаются электроды, на которые высаживаются живые нервные клетки и добавляются необходимые питательные вещества. Вскоре там образуется и начинает расти живая нейронная сеть. Ее можно пытаться обучать с помощью электродов управлению необходимым устройством (аниматом).

Я называю это запасным вариантом создания искусственного интеллекта. Если не удастся его сделать из неживой материи, то можно попробовать вырастить управляемые биологические сети. Отмечу, что в Курчатовском комплексе НБИКС-технологий НИЦ «Курчатовский институт» реализуются все перечисленные мною направления.

Умная машина

Существует два базовых подхода к разработке искусственного интеллекта. Первый - так называемый нисходящий, или символьный подход подразумевает создание баз знаний, экспертных систем и систем логического вывода. Предполагается, что система сможет имитировать мышление, рассуждение, речь, эмоции, даже творчество. Это путь наиболее проработанный, но соответствующие программы до сих пор весьма далеки от человеческого мышления.

Второй подход - восходящий - предполагает, что искусственные нейронные сети смогут моделировать архитектуру, свойства и поведение своего биологического прообраза, что приведет к созданию интеллектуального нейрокомпьютера. Если апологеты первого направления в большинстве своем разочаровались в создании мыслящей программы, то сторонники второго подхода поделились на два примерно равновеликих лагеря. Одни считают, что сильный искусственный интеллект возможен, другие - что нет.

Первые считают, что искусственный интеллект сможет когда-либо самостоятельно мыслить, обладать сознанием и осознавать себя, вторые уверены, что не сможет. Я отношусь к первым, так как никто еще не доказал обратного и даже не построил достаточно полной модели мозга с учетом хотя бы минимального набора наиболее важных его подсистем. Однако мыслящий искусственный интеллект если и возможен, то является очень далекой перспективой.

Фото: Chip Somodevilla / Getty Images

В Европе есть проект «Мозг человека» (Human Brain Project). На суперкомпьютере пытаются моделировать мозг. Создали детализированную модель одного миллиона нервных клеток неокортекса. На симуляцию одной секунды деятельности этой сети суперкомпьютер тратит от нескольких часов до суток, в зависимости от степени детализации модели.

Как определить момент, когда будет создан полноценный искусственный интеллект? Есть много вариантов ответа на этот вопрос, которые условно делятся на две большие группы. Например, Алан Тьюринг, знаменитый британский математик, известный в том числе благодаря взлому кода легендарной шифровальной установки фашистов «Энигма», считал, что машина станет разумной тогда, когда сможет общаться с человеком, а тот не поймет, что собеседник - не человек.

Второй подход чаще всего пропагандируют писатели-фантасты: когда машина научится чувствовать и творить. Правда, пока еще не выдвинуты однозначные критерии проверки указанных действий. Кто прав - покажет время. А пока требуются дальнейшие захватывающие исследования, которые дадут ответы на глубочайшие вопросы относительно нашего с вами самоопределения в этом мире - тайны разума.

Будущее искусственного интеллекта

• Искусственный интеллект ,

• Перевод

Последствия и этические проблемы сильного ИИ

Страшный ИИ

В обоих случаях смысл состоит в том, что с созданием настоящего ИИ придёт технологическая сингулярность . Технологическая сингулярность – период экспоненциального роста технологий, происходящий на небольшом временном отрезке. Идея в том, что ИИ сможет улучшать самого себя или производить более передовые ИИ. Так как это будет происходить быстро, кардинальные перемены могут случиться за один день, и в результате появится ИИ гораздо более совершенный, чем тот, что был создан человечеством. Это может означать, что в результате у нас появится сверхумный и недоброжелательный ИИ, или разумный ИИ, достойный обладать правами.

Недоброжелательный ИИ

Сэндс считает: «ОИИ произведёт революцию, и его применение определи, позитивное это будет влияние, или негативное. Примерно так же расщепление атома можно рассматривать как обоюдоострый меч». Конечно, тут речь идёт только об ОИИ, а не о сильном ИИ. Что насчёт возможности появления разумного сильного ИИ?

Скорее всего, потенциала можно ожидать не от злонамеренного, а от индифферентного ИИ. Альберт рассматривает пример с простой задачей, поставленной ИИ: «Есть такая история, что владелец фабрики по производству скрепок задал ИИ вроде бы простую задачу: максимизацию производства. А затем ОИИ воспользовался своим интеллектом и придумал, как превратить всю планету в скрепки!»

Альберт отметает возможность, описанную в этом смешном мысленном эксперименте: «Вы хотите сказать, что этот ОИИ понимает человеческую речь, сверхумный, но ему недоступны связанные с запросом тонкости? Или, что он не сможет задать уточняющие вопросы, или догадаться, что превращение всех людей в скрепки – это плохая идея?».

То есть, если ИИ достаточно умён для того, чтобы понять и запустить опасный для людей сценарий, он должен быть достаточно умным для того, чтобы понять, что этого делать не стоит. Три закона робототехники Азимова тоже могут сыграть свою роль, хотя остаётся вопрос, можно ли будет реализовать их таким образом, чтобы ИИ не смог их поменять? А что насчёт благополучия самого ИИ?

Права ИИ

По-видимому, те же споры развернутся по поводу существ с ИИ. Будет ли рабством заставлять ИИ работать день и ночь на благо человечества? Должны ли мы платить ему за услуги? Что с этой оплатой будет делать ИИ?

Фильм плохой, идея хорошая

Маловероятно, что у нас в ближайшее время появятся ответы на эти вопросы, в особенности, ответы, устраивающие всех. «Как мы можем гарантировать, что у ИИ, сравнимого с человеком, будут такие же права, как у человека? Учитывая, что эта интеллектуальная система фундаментально отличается от человека, как мы можем определить фундаментальные права ИИ? Кроме того, если считать ИИ искусственной формой жизни, есть ли у нас право отнимать у него эту жизнь (отключать)? До того, как создать ОИИ, необходимо серьёзно продумать вопросы этики», – говорит Сэндс.

В то время, как продолжается исследование ИИ, эти и другие этические вопросы, несомненно, будут вызывать споры. Судя по всему, мы ещё довольно далеко от того момента, когда они окажутся актуальными. Но и сейчас уже для их обсуждения организовываются конференции .

Как поучаствовать

Проводить самостоятельные эксперименты с ИИ можно при помощи доступного ПО. У Google есть

В мае 2017 года скончался полковник Станислав Петров. Этот офицер в 1983 году своими профессиональными действиями предотвратил ядерную войну. Во время его дежурства пришел сигнал со спутников наблюдения о старте нескольких ракет с территории США. Ядерная атака. Петров должен был принять роковое решение. В этой критической ситуации он мгновенно перепроверил информацию по другим источникам и принял решение, что это - ложная тревога. Возможный ответный ядерный удар не состоялся. Подобные ситуации бывали и в американских ядерных силах. И всякий раз, к нашему счастью, люди принимали верное решение.

А вот искусственный интеллект - какое он принял бы решение в такой ситуации? Человек ведь существо моральное. Станислав Петров осознавал цену своего решения с нравственных позиций. Ученые смогут впихнуть в искусственный интеллект мораль? Это первый вопрос. А второй: если этот искусственный интеллект будет сам развиваться, это саморазвивающаяся система, он, может быть, себе свою новую мораль придумает. И совсем не такую, как наша. И в этой его моральной системе, мы, люди, не окажемся лишними?

Когда была осознана колоссальная разрушительная мощь ядерного оружия, сразу заговорили о невозможности его применения. Цена будет слишком велика. А сейчас, когда человечество, возможно, стоит на пороге создания искусственного интеллекта, кто-нибудь обсуждает серьезно опасности и риски? Почти все пребывают в состоянии эйфории: какие новые возможности перед нами открываются! Может, и открываются, а может, и закрываются.

Еще совсем недавно это казалось фантастикой, и вот уже безнадежно устарело - бросать компьютерный чип в кипящую сталь в попытке предотвратить восстание машин теперь бесполезно, микропроцессоры куда более мощные, чем у Терминатора образца 1991 года. Сейчас повсюду искусственный разум стремится к человеческому, а люди, кажется, приняли грядущее уничтожение как нечто неизбежное.

Видео телеканала CNBC:

Ты хочешь уничтожить людей? Пожалуйста, скажи «нет!»

Ок, я уничтожу людей, - отвечает робот София.

У современного Терминатора черты лица актрисы Одри Хэпберн - по крайней мере, так говорят разработчики - робот София способна поддержать разговор, повторяет мимику человека, но когда шутит про уничтожение людей, почему-то не улыбается.

На этой неделе в торжественной обстановке София получила гражданство Саудовской Аравии - страны, которая вкладывает сотни миллионов долларов в развитие технологии искусственного интеллекта. Это передовое направление, без которого будущее уже не представляет себе не только крупный бизнес, но и правительства многих государств. Какие бы риски это будущее в себе ни таило. Потеря контроля над цифровым разумом лишь один из вариантов. Угроза может показаться не вполне конкретной - но футурологи готовы привести примеры.

«Два искусственных военных интеллекта в двух странах могут вступить в войну, которая продлится несколько миллисекунд и люди не успеют заметить, как они все будут уничтожены», - говорит футуролог Алексей Турчин.

Фантастика? Возможно, но локальная война двух компьютерных трейдеров уже однажды обрушила биржевые индексы - просто потому что боты друг за другом вдруг решили продавать акции. В результате этой виртуальной битвы совершенно конкретные люди потеряли много настоящих денег.

«Алгоритмы, которые были сделаны для того, чтобы приносить прибыль всем участникам, вдруг начали работать так, что они начали приносить убытки всем участникам, потому что были не предусмотрены последствия работы. А очень трудно предусмотреть все последствия работы искусственного интеллекта», - поясняет Алексей Турчин.

Программисты Фейсбука тоже не предполагали, что сетевые чат-боты, или попросту разговорные агенты, пройдут тест на коммуникацию с таким результатом: диалог на английском превратился в бессмысленный набор слов, а то и букв, но это для человека - цифровому разуму язык людей показался неудобным способом договориться. Другими словами - машина может лучше. И это еще одна угроза.

«Первое, что произойдет, это то, что очень многие люди потеряют работу из-за автоматизации и роботизации производства. Так, по некоторым оценкам, в США до 2030 года из-за этого могут быть ликвидированы около 47% рабочих мест», - говорит профессор теоретической философии в университете имени Иоганна Гутенберга Томас Метцингер.

Казалось бы, все это далеко и даже не очень скоро - но и в России искусственный интеллект уже лишил кое-кого работы - виртуальная помощница Инна заменила собой справочную службу Казанского Иннополиса.

«Мы автоматизировали на 100% все рутинные обращения и вот с 19 июня этого года Инна уже обработала чуть больше 15 тысяч обращений, на которые раньше отвечал живой человек, а теперь этот механизм отвечает автоматически», - рассказывает директор по маркетинговым коммуникациям города Иннополис Артем Фатхуллин.

Инна, конечно специалист в узкой области - ей, как и любой другой программе пока очень далеко до человека - но ключевое слово именно «пока».

«100 лучших экспертов мира в области искусственного интеллекта полагают, что между 2070 и 2100 годами, а возможно, и в 2050 году появится искусственный сверхразум, который будет действовать как минимум на уровне человека, а то и недосягаемо превосходить его. Вопрос состоит в том, что если саморазвивающийся искусственный интеллект когда-либо превзойдет когнитивную силу человека, то как нам сделать так, чтобы он оставался мирным и чтобы его цели совпадали с нашими», - говорит Томас Метцингер.

Ответа на этот вопрос на самом деле до сих пор не существует - человечество тратит миллиарды на развитие искусственного разума, как будто нарочно приближая тот день, кода он поймет, что создатели ему больше не нужны.

«Я часто использую такую аналогию - когда мы, например, расширяем дом, мы не советуемся с червяками, жуками и разными насекомыми на заднем дворе, перед тем, как начать стройку. Они же настолько ниже нас, что мы просто не обращаем на них внимания. Вот какой может быть разница между искусственным интеллектом будущего и человеком», - отмечает глава футурологического института Futurizon (Великобритания) Ян Пирсон.

Кто-то, конечно, может посоветовать футурологам надеть шапочку из фольги и спрятаться под стол - но главу компании Tesla Илона Маска точно не заподозришь в технофобии - с его-то проектами SpaceX или Hyperloop и серьезными инвестициями в создание нейросетей. Но именно он уже не раз предупреждал об опасности.

«Вы знаете, что у меня есть доступ к самым последним разработкам в области искусственного интеллекта. И я думаю, что людям действительно следует озаботиться этим. Может показаться, что я поднимаю панику, но пока человечество не увидит, как роботы идут по улицам и убивают людей, они не будут знать, как реагировать. Ведь это выглядит таким нереальным, но я уверен, что нам действительно стоит волноваться насчет искусственного интеллекта», - заявил Илон Маск.

Маск предлагает регулировать развитие технологии на государственном уровне - и в то же время своего рода аппаратный апгрейд мозга - с помощью нейросетей нового поколения, выходит, чтобы не отстать от машин будущего, человеку самому придется стать машиной.

Искусственный интеллект развивается куда быстрее, чем могли предположить его создатели - нас окружают миллионы устройств, которые по вычислительным способностям значительно куда умнее человека. Теперь представьте следующий этап, когда мозг станет частью этой сети: вроде возможности открываются безграничные - не нужно учить языки, вообще любые накопленные человечеством знания легко скачать прямо в голову, но с другой стороны человек фактически становится флэшкой. Какая уж тут индивидуальность или несвойственная машинам способность мыслить нестандартно! Да и вообще любую флешку можно отформатировать…

Сейчас нам только кажется, что мы способны обрабатывать все новые потоки информации из нескольких источников сразу - в реальности человек просто теряет элементарные способности, доверившись технологиям. Машины и так уже многое делают за нас - автомобили сами паркуются, поисковики в интернете готовы ответить на любой вопрос, виртуальные помощники сами звонят нашим друзьям. Лень как двигатель прогресса. Выходит, «двое из ларца» здорово поумнели с тех пор, как человечество открыло ящик Пандоры.

Вы что это, и конфеты за меня есть будете?

Искусственный интеллект (ИИ, англ. Artificial intelligence, AI) - наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. ИИ связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.

Что такое искусственный интеллект

Интеллект (от лат. intellectus - ощущение, восприятие, разумение, понимание, понятие, рассудок), или ум - качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой. Интеллект - это общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение.

В начале 1980-х гг. ученые в области теории вычислений Барр и Файгенбаум предложили следующее определение искусственного интеллекта (ИИ):

Позже к ИИ стали относить ряд алгоритмов и программных систем, отличительным свойством которых является то, что они могут решать некоторые задачи так, как это делал бы размышляющий над их решением человек.

Основные свойства ИИ - это понимание языка, обучение и способность мыслить и, что немаловажно, действовать.

ИИ – комплекс родственных технологий и процессов, развивающихся качественно и стремительно, например:

• обработка текста на естественном языке
• экспертные системы
• виртуальные агенты (чат-боты и виртуальные помощники)
• системы рекомендаций.

Технологические направления ИИ. Данные Deloitte

Исследования в сфере ИИ

• Основная статья: Исследования в сфере искусственного интеллекта

Стандартизация в области ИИ

2018: Разработка стандартов в области квантовых коммуникаций, ИИ и умного города

Технический комитет «Кибер-физические системы» на базе РВК совместно с Региональным инжиниринговым центром «СэйфНет» 6 декабря 2018 года начали разработку комплекса стандартов для рынков Национальной технологической инициативы (НТИ) и цифровой экономики . К марту 2019 года планируется разработать документы технической стандартизации в области квантовых коммуникаций , и , сообщили в РВК. Подробнее .

Влияние искусственного интеллекта

Риск для развития человеческой цивилизации

Влияние на экономику и бизнес

• Влияние технологий искусственного интеллекта на экономику и бизнес

Влияние на рынок труда

Предвзятость искусственного интеллекта

В основе всего того, что является практикой ИИ (машинный перевод, распознавание речи, обработка текстов на естественных языках, компьютерное зрение , автоматизация вождения автомобилей и многое другое) лежит глубинное обучение. Это подмножество машинного обучения , отличающееся использованием моделей нейронных сетей , о которых можно сказать, что они имитируют работу мозга, поэтому их с натяжкой можно отнести к ИИ. Любая модель нейронной сети обучается на больших наборах данных , таким образом, она обретает некоторые «навыки», но то, как она ими пользуется - для создателей остается не ясным, что в конечном счете становится одной из важнейших проблем для многих приложений глубинного обучения. Причина в том, что такая модель работает с образами формально, без какого-либо понимания того, что она делает. Является ли такая система ИИ и можно ли доверять системам, построенным на основе машинного обучения? Значение ответа на последний вопрос выходит за пределы научных лабораторий. Поэтому заметно обострилось внимание средств массовой информации к явлению, получившему название AI bias. Его можно перевести как «необъективность ИИ» или «пристрастность ИИ». Подробнее .

Рынок технологий искусственного интеллекта

Рынок ИИ в России

Мировой рынок ИИ

Сферы применения ИИ

Сферы применения ИИ достаточно широки и охватывают как привычные слуху технологии, так и появляющиеся новые направления, далекие от массового применения, иначе говоря, это весь спектр решений, от пылесосов до космических станций. Можно разделить все их разнообразие по критерию ключевых точек развития.

ИИ - это не монолитная предметная область. Более того, некоторые технологические направления ИИ фигурируют как новые подотрасли экономики и обособленные сущности, одновременно обслуживая большинство сфер в экономике.

Основные коммерческие сферы применения технологий искусственного интеллекта

Развитие применения использования ИИ ведет к адаптации технологий в классических отраслях экономики по всей цепочке создания ценности и преобразует их, приводя к алгоритмизированию практически всего функционала, от логистики до управления компанией.

Использование ИИ в целях обороны и в военном деле

Использование в образовании

Использование ИИ в бизнесе

ИИ в электроэнергетики

• На уровне проектирования: улучшенное прогнозирование генерации и спроса на энергоресурсы, оценка надежности энергогенерирующего оборудования, автоматизация повышения генерации при скачке спроса.
• На уровне производства: оптимизация профилактического обслуживания оборудования, повышение эффективности генерации, снижение потерь, предотвращение краж энергоресурсов.
• На уровне продвижения: оптимизация ценообразования в зависимости от времени дня и динамическая тарификация.
• На уровне предоставления обслуживания: автоматический выбор наиболее выгодного поставщика, подробная статистика потребления, автоматизированное обслуживание клиентов, оптимизация энергопотребления с учетом привычек и поведения клиента.

ИИ в производственной сфере

• На уровне проектирования: повышение эффективности разработки новых продуктов, автоматизированная оценка поставщиков и анализ требований к запчастям и деталям.
• На уровне производства: совершенствование процесса исполнения задач, автоматизация сборочных линий, снижение количества ошибок, уменьшение сроков доставки сырья.
• На уровне продвижения: прогнозирование объемов предоставления услуг поддержки и обслуживания, управление ценообразованием.
• На уровне предоставления обслуживания: улучшение планирования маршрутов парка транспортных средств, спроса на ресурсы автопарка, повышение качества подготовки сервисных инженеров.

ИИ в банках

• Распознавание образов - используется в т.ч. для узнавания клиентов в отделениях и передачи им специализированных предложений.

Основные коммерческие сферы применения технологий искусственного интеллекта в банках

ИИ на транспорте

• Автоиндустрия на пороге революции: 5 вызовов эры беспилотного вождения

ИИ в логистике

ИИ в пивоварении

Использование ИИ в госуправлении

ИИ в криминалистике

• Распознавание образов - используется в т.ч. для выявления преступников в общественных пространствах.

• В мае 2018 года стало известно об использовании голландской полицией искусственного интеллекта для расследования сложных преступлений.

Как сообщает издание The Next Web, правоохранительные органы начали оцифровывать более 1500 отчетов и 30 млн страниц, связанных с нераскрытыми делами. В компьютерный формат переносят материалы, начиная с 1988 года, в которых преступление не раскрывалось не менее трех лет, и преступник были приговорен к более 12 годам лишения свободы.

Раскрыть сложное преступление за день. Полиция берет ИИ на вооружение

После оцифровки всего контента он будет подключен к системе машинного обучения , которая будет анализировать записи и решать, в каких делах используются самые достоверные доказательства. Это должно снизить время обработки дел и раскрытия прошлых и будущих преступлений с нескольких недель до одного дня.

Искусственный интеллект будет распределять дела по их «разрешимости» и указывать на возможные результаты экспертизы ДНК. Затем планируется автоматизировать анализ и в других областях судебной экспертизы и, возможно, даже охватить данные в таких областях, как общественные науки и свидетельские показания.

Кроме того, как рассказал один разработчиков системы Джерун Хаммер (Jeroen Hammer), в будущем могут быть выпущены API -функции для партнёров.

В голландской полиции есть специальное подразделение, специализирующееся на освоении новых технологий для раскрытия преступлений. Именно он и создало ИИ-систему для быстрого поиска преступников по уликам.

ИИ в судебной системе

Разработки в области искусственного интеллекта помогут кардинально изменить судебную систему, сделать ее более справедливой и свободной от коррупционных схем. Такое мнение высказал летом 2017 года доктор технических наук, технический консультант Artezio Владимир Крылов.

Ученый считает, что уже существующие сейчас решения в области AI можно успешно применять в разных сферах экономики и общественной жизни. Эксперт указывает, что AI успешно применяется в медицине, однако в будущем способен полностью изменить и судебную систему.

«Ежедневно просматривая новостные сообщения о разработках в области ИИ только поражаешься неисчерпаемости фантазии и плодотворности исследователей и разработчиков в этой области. Сообщения о научных исследований постоянно чередуются с публикациями о новых продуктах, врывающихся на рынок и сообщениями об удивительных результатах, полученных с помощью применения ИИ в различных областях. Если же говорить об ожидаемых событиях, сопровождаемых заметным хайпом в СМИ, в котором ИИ станет снова героем новостей, то я, наверное, не рискну делать технологических прогнозов. Могу предположить, что ближайшим событием станет появление где-то предельно компетентного суда в форме искусственного интеллекта, справедливого и неподкупного. Случится это, видимо, в 2020-2025 году. И процессы, которые пройдут в этом суде приведут к неожиданным рефлексиям и стремлению многих людей передать ИИ большинство процессов управления человеческим обществом».

Использование искусственного интеллекта в судебной системе ученый признает «логичным шагом» по развитию законодательного равенства и справедливости. Машинный разум не подвержен коррупции и эмоциям, может четко придерживаться законодательных рамок и выносить решения с учетом многих факторов, включая данные, которые характеризуют участников спора. По аналогии с медицинской сферой, роботы -судьи могут оперировать большими данными из хранилищ государственных служб. Можно предположить, что машинный интеллект сможет быстро обрабатывать данные и учитывать значительно больше факторов, чем судья-человек.

Эксперты-психологи, впрочем, считают, что отсутствие эмоциональной составляющей при рассмотрении судебных дел негативно скажется на качестве решения. Вердикт машинного суда может оказаться слишком прямолинейным, не учитывающим важность чувств и настроения людей.

Живопись

В 2015 году команда Google тестировала нейронные сети на предмет возможности самостоятельно создавать изображения. Тогда искусственный интеллект обучали на примере большого количества различных картинок. Однако, когда машину «попросили» самостоятельно что-нибудь изобразить, то оказалось, что она интерпретирует окружающий нас мир несколько странно. Например, на задачу нарисовать гантели, разработчики получили изображение, в котором металл был соединён человеческими руками. Вероятно, произошло это из-за того, что на этапе обучения анализируемые картинки с гантелями содержали руки, и нейронная сеть неверно это интерпретировала.

26 февраля 2016 года в Сан-Франциско на специальном аукционе представители Google выручили с психоделических картин, написанных искусственным интеллектом, порядка $98 тыс. Данные средства были пожертвованы на благотворительность. Одна из наиболее удачных картин машины представлена ниже.

Картина, написанная искусственным интеллектом Google.