Понятие искусственный интеллект (ИИ или AI) объединяет в себе не только технологии, позволяющие создавать интеллектуальные машины (включая компьютерные программы). ИИ – это также одно из направлений научной мысли.

Искусственный интеллект — определение

Интеллект – это психическая составляющая человека, которая обладает следующими способностями:

• приспособленческая;
• обучаемость посредством накопления опыта и знаний;
• способность применять знания и навыки для управления окружающей средой.

Интеллект объединяет в себе все способности человека к познанию действительности. При помощи него человек мыслит, запоминает новую информацию, воспринимает окружающую среду и так далее.

Под искусственным интеллектом понимается одно из направлений информационных технологий, которое занимается изучением и разработкой систем (машин), наделенных возможностями человеческого интеллекта: способность к обучению, логическому рассуждению и так далее.

В настоящий момент работа над искусственным интеллектом проводится путем создания новых программ и алгоритмов, решающих задачи так же, как это делает человек.

В связи с тем, что определение ИИ эволюционирует по мере развития этого направления, необходимо упомянуть AI Effect. Под ним понимается эффект, который создает искусственный интеллект, достигнувший некоторого прогресса. Например, если ИИ научился выполнять какие-либо действия, то сразу подключаются критики, которые доказывают, что эти успехи не свидетельствуют о наличии мышления у машины.

Сегодня развитие искусственного интеллекта идет по двум независимым направлениям:

• нейрокибернетика;
• логический подход.

Первое направление предусматривает исследование нейронных сетей и эволюционных вычислений с точки зрения биологии. Логический подход подразумевает разработку систем, которые имитируют интеллектуальные процессы высокого уровня: мышление, речь и так далее.

Первые работы в области ИИ начали вести в середине прошлого века. Пионером исследований в этом направлении стал Алан Тьюринг , хотя определенные идеи начали высказывать философы и математики в Средние века. В частности, еще в начале 20-го века была представлена механическое устройство, способное решать шахматные задачи.

Но по-настоящему это направление сформировалось к середине прошлого столетия. Появление работ по ИИ предваряли исследования о природе человека, способах познания окружающего мира, возможностях мыслительного процесса и других сферах. К тому времени появились первые компьютеры и алгоритмы. То есть, был создан фундамент, на котором зародилось новое направление исследований.

В 1950 году Алан Тьюринг опубликовал статью, в которой задавался вопросами о возможностях будущих машин, а также о том, способны ли они обойти человека в плане разумности. Именно этот ученый разработал процедуру, названную потом в его честь: тест Тьюринга.

После опубликования работ английского ученого появились новые исследования в области ИИ. По мнению Тьюринга, мыслящей может быть признана только та машина, которую невозможно при общении отличить от человека. Примерно в то же время, когда появилась статься ученого, зародилась концепция, получившая название Baby Machine. Она предусматривала поступательное развитие ИИ и создание машин, мыслительные процессы которых сначала формируются на уровне ребенка, а затем постепенно улучшаются.

Термин «искусственный интеллект» зародился позднее. В 1952 году группа ученых, включая Тьюринга, собралась в американском университете Дартмунда, чтобы обсудить вопросы, связанные с ИИ. После той встречи началось активное развитие машин с возможностями искусственного интеллекта.

Особую роль в создании новых технологий в области ИИ сыграли военные ведомства, которые активно финансировали это направление исследований. Впоследствии работы в области искусственного интеллекта начали привлекать крупные компании.

Современная жизнь ставит более сложные задачи перед исследователями. Поэтому развитие ИИ ведется в принципиально других условиях, если сравнивать их с тем, что происходило в период зарождения искусственного интеллекта. Процессы глобализации, действия злоумышленников в цифровой сфере, развитие Интернета и другие проблемы – все это ставит перед учеными сложные задачи, решение которых лежит в области ИИ.

Несмотря на успехи, достигнутые в этой сфере в последние годы (например, появление автономной техники), до сих пор не утихают голоса скептиков, которые не верят в создание действительно искусственного интеллекта, а не очень способной программы. Ряд критиков опасается, что активное развитие ИИ вскоре приведет к ситуации, когда машины полностью заменят людей.

Направления исследований

Философы пока не пришли к единому мнению о том, какова природа человеческого интеллекта, и каков его статус. В связи с этим в научных работах, посвященных ИИ, встречается множество идей, повествующих, какие задачи решает искусственный интеллект. Также отсутствует единое понимание вопроса, какую машину можно считать разумной.

Сегодня развитие технологий искусственного интеллекта идет по двум направлениям:

1. Нисходящее (семиотическое). Оно предусматривает разработку новых систем и баз знаний, которые имитируют высокоуровневые психические процессы типа речи, выражения эмоций и мышления.
2. Восходящее (биологическое). Данный подход предполагает проведение исследований в области нейронных сетей, посредством которых создаются модели интеллектуального поведения с точки зрения биологических процессов. На базе этого направления создаются нейрокомпьютеры.

Определяет способность искусственного интеллекта (машины) мыслить так же, как человек. В общем понимании этот подход предусматривает создание ИИ, поведение которого не отличается от людских действий в одинаковых, нормальных ситуациях. По сути, тест Тьюринга предполагает, что машина будет разумной лишь в том случае, если при общении с ней невозможно понять, кто говорит: механизм или живой человек.

Книги в жанре фантастика предлагают другой метод оценки возможностей ИИ. Настоящим искусственный интеллект станет в том случае, если он будет чувствовать и сможет творить. Однако этот подход к определению не выдерживает практического применения. Уже сейчас, например, создаются машины, которые обладают способностью реагировать на изменения окружающей среды (холод, тепло и так далее). При этом они не могут чувствовать так, как это делает человек.

Символьный подход

Успех в решении задач во многом определяется способностью гибко подходить к ситуации. Машины, в отличие от людей, интерпретируют полученные данные единым образом. Поэтому в решении задач принимает участие только человек. Машина проводит операции на основании написанных алгоритмов, которые исключают применение нескольких моделей абстрагирования. Добиться гибкости от программ удается путем увеличения ресурсов, задействованных в ходе решения задач.

Указанные выше недостатки характерны для символьного подхода, применяемого при разработке ИИ. Однако данное направление развития искусственного интеллекта позволяет создавать новые правила в процессе вычисления. А проблемы, возникающие у символьного подхода, способны решить логические методы.

Логический подход

Этот подход предполагает создание моделей, имитирующих процесс рассуждения. В его основе заложены принципы логики.

Данный подход не предусматривает применение жестких алгоритмов, которые приводят к определенному результату.

Агентно-ориентированный подход

Он задействует интеллектуальных агентов. Этот подход предполагает следующее: интеллект представляет собой вычислительную часть, посредством которой достигаются поставленные цели. Машина играет роль интеллектуального агента. Она познает окружающую среду при помощи специальных датчиков, а взаимодействует с ней посредством механических частей.

Агентно-ориентированный подход уделяет основное внимание разработке алгоритмов и методов, которые позволяют машинам сохранять работоспособность в различных ситуациях.

Гибридный подход

Этот подход предусматривает объединение нейронных и символьных моделей, за счет чего достигается решение всех задач, связанных с процессами мышления и вычислений. Например, нейронные сети могут генерировать направление, в котором двигается работа машины. А статическое обучение предоставляет тот базис, посредством которого решаются задачи.

Согласно прогнозам экспертов компании Gartner , к началу 2020-х годов практически все выпускаемые программные продукты будут использовать технологии искусственного интеллекта. Также специалисты предполагают, что около 30% инвестиций в цифровую сферу будут приходиться на ИИ.

По мнению аналитиков Gartner, искусственный интеллект открывает новые возможности для кооперации людей и машин. При этом процесс вытеснения человека ИИ невозможно остановить и в будущем он будет ускоряться.

В компании PwC считают, что к 2030 году объем мирового валового внутреннего продукта вырастет примерно на 14% за счет быстрого внедрения новых технологий. Причем примерно 50% прироста обеспечит повышение эффективности производственных процессов. Вторую половину показателя составит дополнительная прибыль, полученная за счет внедрения ИИ в продукты.

Первоначально эффект от использования искусственного интеллекта получит США, так как в этой стране созданы лучшие условия для эксплуатации машин на ИИ. В дальнейшем их опередит Китай, который извлечет максимальную прибыль, внедряя подобные технологии в продукцию и ее производство.

Эксперты компании Saleforce заявляют, что ИИ позволит увеличить доходность малого бизнеса примерно на 1,1 триллиона долларов. Причем произойдет это к 2021 году. Отчасти добиться указанного показателя удастся за счет реализации решений, предлагаемых ИИ, в системы, отвечающие за коммуникацию с клиентами. Одновременно с этим будет улучаться эффективность производственных процессов благодаря их автоматизации.

Внедрение новых технологий также позволит создать дополнительные 800 тысяч рабочих мест. Эксперты отмечают, что указанный показатель нивелирует потери вакансий, произошедшие из-за автоматизации процессов. По прогнозу аналитиков, основанных на результатах опроса среди компаний, их расходы на автоматизацию производственных процессов к началу 2020-х годов возрастут примерно до 46 миллиардов долларов.

В России также ведутся работы в области ИИ. На протяжении 10 лет государство профинансировало более 1,3 тысячи проектов в данной сфере. Причем большая часть инвестиций пошло на развитие программ, не связанных с ведением коммерческой деятельности. Это показывает, что российское бизнес-сообщество пока не заинтересовано во внедрении технологий искусственного интеллекта.

В общей сложности на указанные цели в России инвестировали порядка 23 миллиардов рублей. Размер государственных субсидий уступает тем объемам финансирования сферы ИИ, которые демонстрируют другие страны. В США на эти цели каждый год выделяют порядка 200 миллионов долларов.

В основном в России из госбюджета выделяют средства на развитие технологий ИИ, которые затем применяются в транспортной сфере, оборонной промышленности и в проектах, связанных с обеспечением безопасности. Это обстоятельство указывает на то, что в нашей стране чаще инвестируют в направления, которые позволяют быстро добиться определенного эффекта от вложенных средств.

Приведенное выше исследование также показало, что в России сейчас накоплен высокий потенциал для подготовки специалистов, которые могут быть задействованы в разработке технологий ИИ. За 5 последних лет обучение по направлениям, связанным с ИИ, прошли примерно 200 тысяч человек.

Технологии ИИ развиваются в следующих направлениях:

• решение задач, позволяющих приблизить возможности ИИ к человеческим и найти способы их интеграции в повседневность;
• разработка полноценного разума, посредством которого будут решаться задачи, стоящие перед человечеством.

В настоящий момент исследователи сосредоточены на разработке технологий, которые решают практические задачи. Пока ученые не приблизились к созданию полноценного искусственного разума.

Разработкой технологиями в области ИИ занимаются многие компании. «Яндекс» не один год применяет их в работе поисковика. С 2016 года российская IT-компания занимается исследованиями в области нейронных сетей. Последние изменяют характер работы поисковиков. В частности, нейронные сети сопоставляют введенный пользователем запрос с неким векторным числом, который наиболее полно отражает смысл поставленной задачи. Иными словами, поиск ведется не по слову, а именно по сути информации, запрашиваемой человеком.

В 2016 году «Яндекс» запустил сервис «Дзен» , который анализирует предпочтения пользователей.

У компании Abbyy недавно появилась система Compreno . При помощи нее удается понять на естественном языке написанный текст. На рынок также сравнительно недавно вышли и другие системы, основанные на технологиях искусственного интеллекта:

1. Findo. Система способна распознавать человеческую речь и занимается поиском информации в различных документах и файлах, используя при этом сложные запросы.
2. Gamalon. Эта компания представила систему со способностью к самообучению.
3. Watson. Компьютер компании IBM, использующий в процессе поиска информации большое количество алгоритмов.
4. ViaVoice. Система распознавания человеческой речи.

Крупные коммерческие компании не обходят стороной достижения в области искусственного интеллекта. Банки активно внедряют подобные технологии в свою деятельность. При помощи систем, основанных на ИИ, они проводят операции на биржах, ведут управление собственностью и выполняют иные операции.

Оборонная промышленность, медицина и другие сферы внедряют технологии распознавания объектов. А компании, занимающие разработкой компьютерных игр, применяют ИИ для создания очередного продукта.

В течение нескольких последних лет группа американских ученых ведет работу над проектом NEIL , в рамках которого исследователи предлагают компьютеру распознать, что изображено на фотографии. Специалисты предполагают, что таким образом они смогут создать систему, способную самообучаться без внешнего вмешательства.

Компания VisionLab представила собственную платформу LUNA , которая может в режиме реального времени распознавать лица, выбирая их из огромного кластера изображений и видеороликов. Данную технологию сегодня применяют крупные банки и сетевые ретейлеры. При помощи LUNA можно сопоставлять предпочтения людей и предлагать им соответствующие товары и услуги.

Над подобными технологиями работает российская компания N-Tech Lab . При этом ее специалисты питаются создать систему распознавания лиц, основанную на нейронных сетях. По последним данным, российская разработка лучше справляется с поставленными задачами, чем человек.

По мнению Стивена Хокинга, развитие технологий искусственного интеллекта в будущем приведет к гибели человечества. Ученый отметил, что люди из-за внедрения ИИ начнут постепенно деградировать. А в условиях естественной эволюции, когда человеку для выживания необходимо постоянно бороться, этот процесс неминуемо приведет к его гибели.

В России положительно рассматривают вопрос внедрения ИИ. Алексей Кудрин однажды заявил о том, что использование таких технологий позволит примерно на 0,3% от ВПП уменьшить расходы на обеспечение работы государственного аппарата. Дмитрий Медведев предрекает исчезновение ряда профессий из-за внедрения ИИ. Однако чиновник подчеркнул, что использование таких технологий приведет к бурному развитию других отраслей.

По данным экспертов Всемирного экономического форума, к началу 2020-х годов в мире из-за автоматизации производства рабочих мест лишаться около 7 миллионов человек. Внедрение ИИ с высокой долей вероятности вызовет трансформацию экономики и исчезновение ряда профессий, связанных с обработкой данных.

Эксперты McKinsey заявляют, что активнее процесс автоматизации производства будет проходить в России, Китае и Индии. В этих странах в ближайшее время до 50% рабочих потеряют свои местах из-за внедрения ИИ. Их место займут компьютеризированные системы и роботы.

По данным McKinsey, искусственный интеллект заменит собой профессии, предусматривающие физический труд и обработку информации: розничная торговля, гостиничный персонал и так далее.

К середине текущего столетия, как полагают эксперты американской компании, число рабочих мест во всем мире сократится примерно на 50%. Места людей займут машины, способные проводить аналогичные операции с той же или более высокой эффективностью. При этом эксперты не исключают варианта, при котором данный прогноз будет реализован раньше указанного срока.

Другие аналитики отмечают вред, который могут нанести роботы. Например, эксперты McKinsey обращают внимание на то, что роботы, в отличие от людей, не платят налоги. В результате из-за снижения объемов поступлений в бюджет государство не сможет поддерживать инфраструктуру на прежнем уровне. Поэтому Билл Гейтс предложил ввести новый налог на роботизированную технику.

Технологии ИИ повышают эффективность работы компаний за счет снижения числа совершаемых ошибок. Кроме того, они позволяют повысить скорость выполнения операций до того уровня, который не может достигнуть человек.

Вчера Zillion опубликовал эксклюзивное интервью с молодым ученым, победителем премии Intel ISEF-2013 Ионутом Александру Будистеану, который работает над проектом по созданию безопасных самоуправляемых автомобилей на основе искусственного интеллекта. Все мы по инерции думаем, что ИИ - это что-то из фантастических фильмов. Но он уже здесь, с нами. Хотя не все так просто. Что же такое искусственный интеллект на самом деле?

Искусственный интеллект: проблема определения и метода

В недавнем знаменитый физик Дэвид Дойч рассказал Zillion о своей позиции в вопросе искусственного интеллекта:

Я думаю, что научно-технологическая революция будет вызвана наращиванием знаний в какой-то области - и произведет ее создание искусственного интеллекта. К сожалению, большинство современных подходов к созданию искусственного интеллекта используют методы и философии, которые, как я полагаю, не могут сработать. Но если мы возьмем широкие временные рамки, думаю, эта проблема разрешима и будет разрешена. И когда это случится, мир уже никогда не будет прежним. С одной стороны, мы не будем одиноки с точки зрения обладания разумом. Но с другой стороны - различия между человеческими существами и искусственными разумами неизбежно сотрутся. Мы будем способны даже загружать свое сознание, разум в компьютер с искусственным интеллектом и тогда станем бессмертными. Кстати, сама по себе загрузка человеческого разума в компьютер не будет являться искусственным интеллектом - компьютер станет лишь искусственным субстратом для управления «обычным» разумом. Я не считаю это искусственным интеллектом. Последствия всего одного достижения прогресса - появления искусственного интеллекта - будут колоссальны. Я не знаю, когда это произойдет: к сожалению, сегодняшние пути ведут, скорее, к неудаче. Я могу сказать почему, если хотите.

Дэвид Дойч (David Deutsch)

Британский физик-теоретик. Профессор Оксфордского университета. Один из пионеров в области квантовых вычислений. Пропагандист эвереттовской многомировой интерпретации квантовой механики. В 1998 году был награжден премией Дирака Британского института физики, а в 2005году - премией в области компьютерных наук Edge of Computation Science Prize . В 2008 году за свои научные достижения был избран в Лондонское королевское общество.

- Если вы думаете, что это просто род компьютерной программы, то настоящий искусственный интеллект будет совершенно иной программой, чем любая другая. Для других программ вы можете точно установить, что они делают, то есть определенный ответ на каждый ввод. Например, для Word можно установить: если вы нажимаете Delete , выделенный текст должен быть удален. Но искусственный интеллект устроен иначе. Допустим, мне нужно было бы, чтобы программа написала новый труд по физике и опубликовала его - это было бы здорово! Если бы мне нужно было написать для этого требования, спецификацию, чтобы такой труд был опубликован, эта спецификация уже содержала бы те новые знания по физике, которые я просил бы программу открыть. И, следовательно, я загрузил бы эти знания в программу, а не программа создала бы их сама. С другой стороны, если я не загружу туда эти знания, станет невозможно указать, что должна делать программа, также как невозможно указать, что должен делать человек. Следовательно, спецификация для программы искусственного интеллекта не может быть создана в соответствии с определенными бихевиористскими предубеждениями, по которым созданы существующие программы. Вот в этом причина.

Тем не менее уже существует если не «чистый» искусственный интеллект, то его предшественники - умные программы, интеллектуальные системы, устройства с Artificially Simulated Human Behavior (искусственно симулированным человеческим поведением). Что же мировая наука подразумевает под понятием искусственного интеллекта? Каковы подходы к его созданию?

Вопрос парадигмы искусственного интеллекта настолько сложный и комплексный, что им занимаются сразу несколько наук: не только компьютерная наука, но также философия, нейронаука, футурология и др. Философы, например, спрашивают, что такое человек и знание. Нейролингвисты и нейрофизиологи пытаются понять, как именно мы мыслим, познаем, делаем открытия, обнаруживаем новые идеи, создаем инновации. И вообще может ли интеллект быть исключительно биологическим феноменом?

По классическому определению, искусственный интеллект, или ИИ (Artificial intelligence , AI ), представляет собой научную область и технологию создания интеллектуальных машин и интеллектуальных компьютерных программ, использования компьютеров для понимания человеческого интеллекта. При этом концепция ИИ не обязана опираться на биологические принципы. Хотя бы по той причине, что мозг и сознание человека, как считают многие авторитетные представители нейронауки, - научная загадка и мы вряд ли когда-то сможем открыть все тайны устройства этого шедевра эволюции. На девятой минуте видеоинтервью Немецкому культурному центру им. Гете в России нейролингвист с мировым именем Татьяна Черниговская отвечает на вопрос «Можем ли мы познать мозг?»: «Я считаю, что у нас нет никаких шансов познать мозг. Никаких никогда не будет. Никакая система не может понять ту систему, которая сложнее, чем она, - это ровно наша ситуация. Мозг сложнее, чем Вселенная, мозг сложнее всего, поэтому я не могу себе представить, как его часть, которой мы, вероятно, являемся, - хотя кто его знает - как мы можем сами себя изучить, я не понимаю».

Классическое определение искусственного интеллекта дал еще в 1956 году на конференции в Дартмутском университете выдающийся американский информатик Джон МакКарти, изобретатель языка Lisp , основоположник функционального программирования и лауреат Премии Тьюринга за огромный вклад в область исследований искусственного интеллекта. Собственно, он и был автором термина «искусственный интеллект».

Джон МакКарти (John McCarthy)

Американский информатик, автор термина «искусственный интеллект», изобретатель языка Lisp, основоположник функционального программирования.

Уже тогда МакКарти не связывал термин ИИ напрямую с пониманием человеческого интеллекта: он считал, что инженеры и ученые, работающие над ИИ, могут использовать для решения конкретных проблем методы, не свойственные человеческому мышлению. Джон МакКарти говорил, что одна из основных проблем состоит в том, что пока не получается определить, какие вычислительные процедуры называть интеллектуальными, поскольку мировая наука понимает некоторые механизмы интеллекта, но не понимает остальные. Таким образом, в рамках сугубо технологического подхода ИИ сужается до вычислительной составляющей способности достигать целей.

ИИ как направление научных исследований изучает природу и суть интеллектуальной творческой деятельности человека, ищет возможности воспроизвести в искусственных системах отражательную способность человеческого сознания. Но при этом непосредственно суть ИИ понимается как кибернетическая система, которая перерабатывает информацию, поступающую из внешней среды, чтобы на ее основании принимать решения. Очень интересный и важный момент: слово «интеллект» в этом понятии метафорично , поскольку ИИ-системы пока не воспроизводят процессы, происходящие в мозгу человека. На сегодня общепринято, что для именования искусственным интеллектом система должна формировать решения, удовлетворяющие предъявляемым требованиям.

Искусственный интеллект: трудности перевода

Еще более запутанная ситуация с пониманием ИИ через призму русского языка. В России вопросами ИИ занимается Российская ассоциация искусственного интеллекта. Интересно, что само русскоязычное понятие «искусственный интеллект» считается в РАИИ неудачным переводом термина Artificial Intelligence. Artificial означает «искусственный, рукотворный, ненастоящий, ненатуральный», а Intelligence - «интеллект, рассудок, разум, умственные способности; информация, сведения секретного характера; разведка, разведывательная служба». Понятие intelligence в научном контексте подразумевает «способность разумно рассуждать». И оно не идентично слову intellect, которое, собственно, и означает «интеллект». В Российской ассоциации искусственного интеллекта предлагают вот эти три определения искусственного интеллекта:

• Научное направление, в рамках которого ставятся и решаются задачи аппаратного или программного моделирования тех видов человеческой деятельности, которые традиционно считаются интеллектуальными.
• Свойство интеллектуальных систем выполнять функции (творческие), которые традиционно считаются прерогативой человека. При этом интеллектуальная система — это техническая или программная система, способная решать задачи, традиционно считающиеся творческими, принадлежащие конкретной предметной области, знания о которой хранятся в памяти такой системы. Структура интеллектуальной системы включает три основных блока — базу знаний, решатель и интеллектуальный интерфейс, позволяющий вести общение с ЭВМ без специальных программ для ввода данных.
• Наука под названием искусственный интеллект входит в комплекс компьютерных наук, а создаваемые на ее основе технологии относятся к информационным технологиям. Задачей этой науки является воссоздание с помощью вычислительных систем и иных искусственных устройств разумных рассуждений и действий.

Критерии: что считать искусственным интеллектом?

Итак, термин «искусственный интеллект» чрезвычайно неоднозначен, поскольку разным комбинациям определения, отражающим тот или иной подход, соответствует определенный технологический уровень. Каким-то пониманиям термина существующие технологии уже вполне отвечают, а другие понимания ИИ на данной стадии научно-технологического прогресса остаются в поле фантастики. Возникает естественный вопрос о критериях: какими свойствами и способностями должна обладать программа настоящего искусственного интеллекта? Но и тут обнаруживается, что дистанция между критериями велика.

Критерий ожидания. Сейчас достаточно много интеллектуальных девайсов и разнообразного софта, который называют «умным» или «интеллектуальным». Это может быть и не слишком сложная электроника, у которой есть набор режимов, переключаемых автоматически, а также сенсоры, датчики, алгоритмы. Предложить пользователю больше, чем заложено, такой софт и такие устройства не могут. Но тут многое зависит от критерия ожидания: чего мы ждем от искусственного интеллекта, который будем считать «настоящим»? Мы надеемся создать с помощью науки и технологий негуманоидную личность? Мы хотим, чтобы ИИ открыл нам какие-то тайны Вселенной, непостижимые для человека? Мы ожидаем некий невероятно мощный «думатель», который даст нам «ответ на главный вопрос жизни, Вселенной и вообще?»

С чем мы сравниваем степень и своеобразие интеллектуальности того или иного устройства/программы? Автоматическая коробка передач вполне себе «интеллектуальна» по сравнению с механической, поскольку ее «начинка» позволяет без нашего участия «решать», на какую скорость переключиться в данный момент. Может быть, это нас уже не впечатляет, но, строго говоря, это чудо техники, которое считали бы мистическим чудом несколько сотен лет назад.

Уже сейчас можно скачать в свой смартфон бесплатное с интеллектуальной системой тестов, которая подстраивается под конкретного человека и его задачу, учитывает уровень подготовки и освоения материала, позволяет конструировать индивидуальные тесты. А самоуправляемые автомобили на основе ИИ интеллектуальны, потому что напичканы базами данных и сенсорами, которые позволяют бортовому компьютеру выбирать маршрут, определять разметку и препятствия.

Любая развитая технология неотличима от магии, как гласит один из трех законов Кларка. Мозг человека, когнитивные способности, человеческий интеллект и сознание пока тоже являются в каком-то смысле магией, если мы говорим об этом в контексте кризисной потребности нейронауки в прорывной теории. Но мелкими шагами эта «магия» раскладывается на составляющие, которые можно изменить: взять хотя бы знаменитый «нейрон Халле Берри» (инструментальные исследования в одном из экспериментов позволили обнаружить в мозгу человека нейрон, который реагирует на любое упоминание этой актрисы или ее образ). Так что «магия» человеческого интеллекта все же измеряема и вычисляема в какой-то мере, и искусственный интеллект, до определенной границы использующий принципы человеческого мышления или имитирующий его, - вполне реализуемая задача. Но, опять же, что мы считаем интеллектом? Это может быть не только человеческий интеллект. Если на то пошло, в нейронауке присутствует концепция распределенного мозга, который, как полагают исследователи, есть у муравьев, и именно он обусловливает их чрезвычайно сложно устроенную социальную жизнь. А дельфинов не так давно стали позиционировать как негуманоидных личностей.

Критерий способа. От критерия ожидания переходим к критерию способа. Если истинно интеллектуальной мы не считаем автоматику, которая многое умеет, но действует согласно заложенным алгоритмам и ограничениям, то получается вот что: возможно, мы ждем от «истинного» ИИ человечности. Тут стоит вспомнить о том, что сказал профессор Оксфордского университета Дэвид Дойч: просто загрузить разум в компьютер - это еще не создать искусственный интеллект, поскольку компьютер станет лишь искусственным субстратом для управления «природным» человеческим разумом. И Дойч не считает это искусственным интеллектом. Ждем ли мы от ИИ непредсказуемости, самостоятельности мышления и способности изобретать новое, то есть создавать идеи и знания, которые не заложены нами по умолчанию? Ожидаем ли мы совершенства мышления на самом деле? Ключи от дверей, за которыми начинается эра искусственного интеллекта, находятся в руках философов и неврологов. Проблема ИИ как науки в том, что философы и неврологи всего мира и всех времен пока не пришли к единому пониманию интеллекта и мышления. Более того, вообще есть сомнения: можно ли применять понятие интеллекта в отношении машин и обязательны ли для интеллекта психика, иррациональный элемент и эмоции?

Тут на первый план выходит эмпирический тест Алана Тьюринга, предложенный еще в 1950 году в философском журнале Mind в статье «Вычислительные машины и разум» («Computing Machinery and Intelligence »). Цель теста Тьюринга - определение возможности искусственного мышления, близкого к человеческому. Стандартная формулировка такова: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем разговаривает: с человеком или компьютерной программой. Задача компьютерной программы - ввести человека в заблуждение, заставив сделать неверный выбор». Все участники теста не видят друг друга. При этом получается, что машина должна имитировать не только рациональность, но и нерациональность мышления и поведения человека.

Тьюринг прогнозировал, что машины все же научатся думать в буквальном смысле и пройдут этот тест. Большую научную ставку он делал на машинное обучение: Тьюринг предполагал, что оно станет ключевым звеном в построении сверхмощных компьютеров. И этот подход сейчас находит одобрение в среде специалистов по ИИ. Футуролог Рэймонд Курцвейл считает, что тест Тьюринга будет пройден между 2020-м и 2030-м годами. Уже сейчас на успех претендует программа «Искусственное лингвистическое интернет-компьютерное существо» (Artificial Linguistic Internet Computer Entity - A.L.I.C.E.). Это виртуальный собеседник, способный вести диалог с человеком на естественном языке. Три раза A.L.I.C.E. получала бронзовую награду в конкурсе премии Лебнера, которая является платформой для проведения теста Тьюринга. Золотую и серебряную награду еще не получала ни одна ИИ-программа. Софт Jabberwacky отстает всего немного, он получил бронзовую награду дважды. Название этой ИИ-программы - игра со словом jabberwocky, которое означает «рифмованная бессмыслица, абракадабра». Это авторский неологизм из книги Льюиса Кэрролла «Зазеркалье». Хотите пообщаться с ИИ Jabberwacky? Это можно сделать прямо сейчас на сайте Jabberwacky.Com , если вы говорите по-английски. Jabberwacky остроумно шутит, играя вашими словами: иллюзия того, что вы чатитесь с разумным существом, достаточно сильная. Те, кто чатился в конце 90-х, получат примерно те же эмоции.

Эксперимент Zillion . Фрагмент общения с ИИ-программой Jabberwacky: самообучающаяся программа- пытается трактовать слова собеседника и релевантно реагировать на них. Иногда получается интересная полуфилософская смысловая игра, но порой цепочки ответов в таком стиле заводят Jabberwacky далеко: к предложению пожениться и намеку на военные планы относительно человечества.

Критерий способности к самообучению. И тут мы переходим к следующему критерию оценки программы как настоящего искусственного интеллекта - речь о способности к обучению. Существует такое частное определение интеллекта, общее для человека и машины: «Интеллект - это способность системы создавать в ходе самообучения программы для решения задач и решать эти задачи». Что есть тот же Jabberwacky? Или кто? Это программа, способная к обучению. В частности, она умеет имитировать стиль общения человека, с которым пообщалась перед тестом. Это может объяснять и вопросы вроде «Will you marry me ?», и специфический тон общения.

Эксперимент Zillion . Общение с «Искусственным лингвистическим интернет-компьютерным существом» (Artificial Linguistic Internet Computer Entity - A.L.I.C.E.).

ИИ-чатботы A .L .I .C .E . и Jabberwacky общаются друг с другом через мессенджер.

ИИ: сильный и слабый

Все варианты ИИ, которые можно описать через эти критерии укладываются в теории сильного ИИ и слабого ИИ. Сторонники концепции слабого ИИ рассматривают такие программы только как инструмент для решения неких задач, не требующих всей полноты когнитивных способностей человека.

Концепция сильного искусственного интеллекта строится вокруг гипотезы Ньюэлла-Саймона, которая предполагает, что «физическая символьная система имеет необходимые и достаточные средства для произведения базовых интеллектуальных действий, в широком смысле». Без символьных вычислений невозможны осмысленные действия. Сама способность выполнять символьные вычисления достаточна для возникновения способности к выполнению осмысленных действий. Большая часть исследований ИИ идет по пути создания символьных систем. А символьные вычисления - это программирование.

По концепции сильного ИИ, некоторые формы действительно способны мыслить, осознавать себя и решать задачи. При этом их мыслительный процесс не обязательно устроен так же, как у человека. Теория слабого ИИ такой возможности не допускает. Джон Серль, предложивший концепцию сильного ИИ считает, что это будет не модель разума, а непосредственно разум. На сегодня у исследователей есть договоренность о том, какими свойствами обладают сильный ИИ и слабый ИИ.

Сильный ИИ - это принятие решений, использование стратегий, решение головоломок и действия в условиях неопределенности, представление знаний, обучение, общее представление о реальности, планирование, общение на естественном языке, сознание, восприимчивость к окружению, осознание себя как отдельной личности, понимание собственных мыслей, сопереживание, мудрость - и объединение всех этих способностей для достижения целей. В наши дни работа над такими программами уже ведется. При этом в поле неопределенности опять же находятся несколько важнейших вопросов. Все это значимо для людей, но является ли это необходимым для машинного интеллекта? Достаточно ли этого для истинного искусственного разума? И могут ли такие свойства, как сопереживание, возникать автоматически при достижении какого-то уровня интеллекта?

ИИ: 4 подхода + инструменты

Суммируя все вопросы, идеи и парадигмы, выделяют несколько подходов к созданию ИИ:

1. Top -Down AI : нисходящий, семиотический подход. Речь о создании экспертных систем, баз знаний и систем логического вывода, которые имитируют высокоуровневые психические процессы, такие как рассуждение, эмоции, творчество, речь, мышление в целом. К нисходящему спектру подходов относятся:

• Логический подход. Он основан на моделировании рассуждений с использованием логики как теоретической основы.
• Символьный подход. Особенность символьных вычислений - создание новых правил в процессе выполнения программы. Неинтеллектуальные системы не способны к этому.
• Агентно-ориентированный подход. Акцент делается на выживание в окружающей среде, поиск пути, принятие решений и выполнение задач. Это подход, который развивается с начала 1990-х и основан на использовании интеллектуальных (рациональных) агентов. Интеллект в этом случае трактуется как вычислительная часть, планирование способности достигать поставленных перед интеллектуальной машиной целей. ИИ-машина воспринимает окружающую среду через датчики и воздействует на объекты посредством исполнительных механизмов.

  2. Bottom -Up AI : восходящий, биологический подход. Он включает в себя изучение нейронных сетей и эволюционных вычислений, которые моделируют интеллектуальное поведение на основе биологических элементов. К этому направлению относится работа над нейрокомпьютером или биокомпьютером. Биологическое моделирование ИИ обосновано тем, что искусственные системы так или иначе повторяют структуру и функции биологических систем, у которых поведение, способность к обучению и адаптация обусловлены биологическими особенностями. К Bottom -Up AI относятся:

  • Работа над нейронными сетями.
  • Генетический подход. Он основан на идее, что алгоритм станет эффективнее, позаимствовав лучшие характеристики у «родительских» алгоритмов.

  3. Гибридный подход. Это синергетическая комбинация нейронных и символьных моделей, которая, как предполагают исследователи, наделит ИИ гармоничным спектром когнитивных и вычислительных возможностей. Правила умозаключений у такой ИИ-программы будут генерироваться нейронными сетями, а порождающие правила будут создаваться через статистическое обучение. Эта концепция считается одной из самых перспективных.

  4. Это тот самый принципиально новый подход, о котором сказал в интервью физик Дэвид Дойч, но который еще предстоит открыть.

  Инструментарий создания и обучения ИИ обширен:

  • Работа с естественными языками: анализ возможностей понимания, генерация текстов на языке человека, глубокий анализ текста, машинный перевод, информационный поиск.
  • Символьное моделирование мыслительных процессов: создание символьных систем, моделирование рассуждений, доказательство теорем, принятие решений, прогнозирование, планирование, теория игр.
  • Машинное обучение: обучение без учителя (распознавание образов во входном потоке) и обучение с учителем (классификация и анализ).
  • Представление и использование знаний: получение знаний из простой информации, их систематизация и использование, создание экспертных систем (программ, использующих базы знаний для получения знаний по разным вопросам); производство знаний из данных на основе нейросетевой технологии, вербализации нейронных сетей.

  Тема искусственного интеллекта на этом далеко не исчерпана: следите за обновлениями Zillion .

Процитированное в преамбуле определение искусственного интеллекта, данное Джоном Маккарти в 1956 году на конференции в Дартмутском университете , не связано напрямую с пониманием интеллекта у человека. Согласно Маккарти, ИИ-исследователи вольны использовать методы, которые не наблюдаются у людей, если это необходимо для решения конкретных проблем .

В то же время существует и точка зрения, согласно которой интеллект может быть только биологическим феноменом .

Как указывает председатель Петербургского отделения Российской ассоциации искусственного интеллекта Т. А. Гаврилова, в английском языке словосочетание artificial intelligence не имеет той слегка фантастической антропоморфной окраски, которую оно приобрело в довольно неудачном русском переводе. Слово intelligence означает «умение рассуждать разумно», а вовсе не «интеллект», для которого есть английский аналог intellect .

Участники Российской ассоциации искусственного интеллекта дают следующие определения искусственного интеллекта:

Одно из частных определений интеллекта, общее для человека и «машины», можно сформулировать так: «Интеллект - способность системы создавать в ходе самообучения программы (в первую очередь эвристические) для решения задач определённого класса сложности и решать эти задачи» .

Предпосылки развития науки искусственного интеллекта

История искусственного интеллекта как нового научного направления начинается в середине XX века . К этому времени уже было сформировано множество предпосылок его зарождения: среди философов давно шли споры о природе человека и процессе познания мира, нейрофизиологи и психологи разработали ряд теорий относительно работы человеческого мозга и мышления, экономисты и математики задавались вопросами оптимальных расчётов и представления знаний о мире в формализованном виде; наконец, зародился фундамент математической теории вычислений - теории алгоритмов - и были созданы первые компьютеры.

Возможности новых машин в плане скорости вычислений оказались больше человеческих, поэтому в учёном сообществе зародился вопрос: каковы границы возможностей компьютеров и достигнут ли машины уровня развития человека? В 1950 году один из пионеров в области вычислительной техники, английский учёный Алан Тьюринг , пишет статью под названием «Может ли машина мыслить?» , в которой описывает процедуру, с помощью которой можно будет определить момент, когда машина сравняется в плане разумности с человеком, получившую название теста Тьюринга .

История развития искусственного интеллекта в СССР и России

В СССР работы в области искусственного интеллекта начались в 1960-х годах . В Московском университете и Академии наук был выполнен ряд пионерских исследований, возглавленных Вениамином Пушкиным и Д. А. Поспеловым . С начала 1960-х М. Л. Цетлин с коллегами разрабатывали вопросы, связанные с обучением конечных автоматов.

В 1964 году была опубликована работа ленинградского логика Сергея Маслова «Обратный метод установления выводимости в классическом исчислении предикатов», в которой впервые предлагался метод автоматического поиска доказательства теорем в исчислении предикатов.

До 1970-х годов в СССР все исследования ИИ велись в рамках кибернетики . По мнению Д. А. Поспелова , науки «информатика» и «кибернетика» были в это время смешаны, по причине ряда академических споров. Только в конце 1970-х в СССР начинают говорить о научном направлении «искусственный интеллект» как разделе информатики . При этом родилась и сама информатика, подчинив себе прародительницу «кибернетику». В конце 1970-х создаётся толковый словарь по искусственному интеллекту, трёхтомный справочник по искусственному интеллекту и энциклопедический словарь по информатике, в котором разделы «Кибернетика» и «Искусственный интеллект» входят наряду с другими разделами в состав информатики. Термин «информатика» в 1980-е годы получает широкое распространение, а термин «кибернетика» постепенно исчезает из обращения, сохранившись лишь в названиях тех институтов, которые возникли в эпоху «кибернетического бума» конца 1950-х - начала 1960-х годов . Такой взгляд на искусственный интеллект, кибернетику и информатику разделяется не всеми. Это связано с тем, что на Западе границы данных наук несколько отличаются .

Подходы и направления

Подходы к пониманию проблемы

Единого ответа на вопрос, чем занимается искусственный интеллект, не существует. Почти каждый автор, пишущий книгу об ИИ, отталкивается в ней от какого-либо определения, рассматривая в его свете достижения этой науки.

• нисходящий (англ. Top-Down AI ), семиотический - создание экспертных систем , баз знаний и систем логического вывода, имитирующих высокоуровневые психические процессы : мышление, рассуждение, речь, эмоции, творчество и т. д.;
• восходящий (англ. Bottom-Up AI ), биологический - изучение нейронных сетей и эволюционных вычислений , моделирующих интеллектуальное поведение на основе биологических элементов, а также создание соответствующих вычислительных систем, таких как нейрокомпьютер или биокомпьютер .

Последний подход, строго говоря, не относится к науке о ИИ в смысле, данном Джоном Маккарти, - их объединяет только общая конечная цель.

Тест Тьюринга и интуитивный подход

Этот подход акцентирует внимание на тех методах и алгоритмах, которые помогут интеллектуальному агенту выживать в окружающей среде при выполнении его задачи. Так, здесь значительно тщательнее изучаются алгоритмы поиска пути и принятия решений .

Гибридный подход

Гибридный подход предполагает, что только синергийная комбинация нейронных и символьных моделей достигает полного спектра когнитивных и вычислительных возможностей. Например, экспертные правила умозаключений могут генерироваться нейронными сетями, а порождающие правила получают с помощью статистического обучения. Сторонники данного подхода считают, что гибридные информационные системы будут значительно более сильными, чем сумма различных концепций по отдельности.

Модели и методы исследований

Символьное моделирование мыслительных процессов

Анализируя историю ИИ, можно выделить такое обширное направление как моделирование рассуждений . Долгие годы развитие этой науки двигалось именно по этому пути, и теперь это одна из самых развитых областей в современном ИИ. Моделирование рассуждений подразумевает создание символьных систем , на входе которых поставлена некая задача, а на выходе требуется её решение. Как правило, предлагаемая задача уже формализована , то есть переведена в математическую форму, но либо не имеет алгоритма решения, либо он слишком сложен, трудоёмок и т. п. В это направление входят: доказательство теорем , принятие решений и теория игр , планирование и диспетчеризация , прогнозирование .

Работа с естественными языками

Немаловажным направлением является обработка естественного языка , в рамках которого проводится анализ возможностей понимания, обработки и генерации текстов на «человеческом» языке. В рамках этого направления ставится цель такой обработки естественного языка, которая была бы в состоянии приобрести знание самостоятельно, читая существующий текст, доступный по Интернету. Некоторые прямые применения обработки естественного языка включают информационный поиск (в том числе, глубокий анализ текста) и машинный перевод .

Представление и использование знаний

Направление инженерия знаний объединяет задачи получения знаний из простой информации , их систематизации и использования. Это направление исторически связано с созданием экспертных систем - программ, использующих специализированные базы знаний для получения достоверных заключений по какой-либо проблеме.

Производство знаний из данных - одна из базовых проблем интеллектуального анализа данных . Существуют различные подходы к решению этой проблемы, в том числе - на основе нейросетевой технологии , использующие процедуры вербализации нейронных сетей .

Машинное обучение

Проблематика машинного обучения касается процесса самостоятельного получения знаний интеллектуальной системой в процессе её работы. Это направление было центральным с самого начала развития ИИ . В 1956 году, на Дартмундской летней конференции, Рей Соломонофф написал отчёт о вероятностной машине, обучающейся без учителя , назвав её: «Индуктивная машина вывода» .

Робототехника

Машинное творчество

Природа человеческого творчества ещё менее изучена, чем природа интеллекта. Тем не менее, эта область существует, и здесь поставлены проблемы написания компьютером музыки , литературных произведений (часто - стихов или сказок), художественное творчество . Создание реалистичных образов широко используется в кино и индустрии игр.

Отдельно выделяется изучение проблем технического творчества систем искусственного интеллекта. Теория решения изобретательских задач , предложенная в 1946 году Г. С. Альтшуллером , положила начало таким исследованиям.

Добавление данной возможности к любой интеллектуальной системе позволяет весьма наглядно продемонстрировать, что именно система воспринимает и как это понимает. Добавлением шума вместо недостающей информации или фильтрация шума имеющимися в системе знаниями производит из абстрактных знаний конкретные образы, легко воспринимаемые человеком, особенно это полезно для интуитивных и малоценных знаний, проверка которых в формальном виде требует значительных умственных усилий.

Другие области исследований

Наконец, существует масса приложений искусственного интеллекта, каждое из которых образует почти самостоятельное направление. В качестве примеров можно привести программирование интеллекта в компьютерных играх , нелинейное управление , интеллектуальные системы информационной безопасности .

В перспективе предполагается тесная связь развития искусственного интеллекта с разработкой квантового компьютера , так как некоторые свойства искусственного интеллекта имеют схожие принципы действия с квантовыми компьютерами .

Можно заметить, что многие области исследований пересекаются. Это свойственно любой науке. Но в искусственном интеллекте взаимосвязь между, казалось бы, различными направлениями выражена особенно сильно, и это связано с философским спором о сильном и слабом ИИ .

Современный искусственный интеллект

Можно выделить два направления развития ИИ:

• решение проблем, связанных с приближением специализированных систем ИИ к возможностям человека, и их интеграции, которая реализована природой человека (см. Усиление интеллекта );
• создание искусственного разума, представляющего интеграцию уже созданных систем ИИ в единую систему, способную решать проблемы человечества (см. Сильный и слабый искусственный интеллект ).

Но в настоящий момент в области искусственного интеллекта наблюдается вовлечение многих предметных областей, имеющих скорее практическое отношение к ИИ, а не фундаментальное. Многие подходы были опробованы, но к возникновению искусственного разума ни одна исследовательская группа пока так и не подошла. Ниже представлены лишь некоторые наиболее известные разработки в области ИИ.

Применение

Некоторые из самых известных ИИ-систем:

Банки применяют системы искусственного интеллекта (СИИ) в страховой деятельности (актуарная математика), при игре на бирже и управлении собственностью. Методы распознавания образов (включая, как более сложные и специализированные, так и нейронные сети) широко используют при оптическом и акустическом распознавании (в том числе текста и речи), медицинской диагностике, спам-фильтрах, в системах ПВО (определение целей), а также для обеспечения ряда других задач национальной безопасности.

Психология и когнитология

Методология когнитивного моделирования предназначена для анализа и принятия решений в плохо определённых ситуациях. Была предложена Аксельродом .

Основана на моделировании субъективных представлений экспертов о ситуации и включает: методологию структуризации ситуации: модель представления знаний эксперта в виде знакового орграфа (когнитивной карты) (F, W), где F - множество факторов ситуации, W - множество причинно-следственных отношений между факторами ситуации; методы анализа ситуации. В настоящее время методология когнитивного моделирования развивается в направлении совершенствования аппарата анализа и моделирования ситуации. Здесь предложены модели прогноза развития ситуации; методы решения обратных задач.

Философия

Наука «о создании искусственного разума» не могла не привлечь внимание философов. С появлением первых интеллектуальных систем были затронуты фундаментальные вопросы о человеке и знании, а отчасти о мироустройстве.

Философские проблемы создания искусственного интеллекта можно разделить на две группы, условно говоря, «до и после разработки ИИ». Первая группа отвечает на вопрос: «Что такое ИИ, возможно ли его создание, и, если возможно, то как это сделать?» Вторая группа (этика искусственного интеллекта) задаётся вопросом: «Каковы последствия создания ИИ для человечества?»

Термин «сильный искусственный интеллект» ввёл Джон Сёрль , его же словами подход и характеризуется:

Более того, такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум - это разум .

При этом нужно понять, возможен ли «чистый искусственный» разум («метаразум»), понимающий и решающий реальные проблемы и, вместе с тем, лишённый эмоций, характерных для человека и необходимых для его индивидуального выживания [ ] .

Напротив, сторонники слабого ИИ предпочитают рассматривать программы лишь как инструмент, позволяющий решать те или иные задачи, которые не требуют полного спектра человеческих познавательных способностей.

Этика

Другие традиционные конфессии достаточно редко описывают проблематику ИИ. Но отдельные богословы тем не менее обращают на это внимание. Например, протоиерей Михаил Захаров, рассуждая с точки зрения христианского мировоззрения, ставит следующий вопрос: «Человек есть разумно-свободное существо, сотворенное Богом по Его образу и подобию. Мы привыкли все эти определения относить к биологическому виду Homo Sapiens. Но насколько это обосновано?» . Отвечает он на этот вопрос так:

Если предположить, что исследования в области искусственного интеллекта когда-либо приведут к появлению искусственного существа, превосходящего человека по интеллекту, обладающего свободой воли, будет ли это означать, что это существо - человек? … человек есть творение Божие. Можем ли мы это существо назвать творением Божиим? На первый взгляд, оно есть творение человека. Но и при сотворении человека вряд ли стоит буквально понимать, что Бог Своими руками из глины вылепил первого человека. Вероятно это иносказание, указывающее на материальность человеческого тела, созданного по воле Божией. Но без воли Божией ничего не происходит в этом мире. Человек, как со-творец этого мира, может, исполняя волю Божию, создавать новые твари. Такие твари, созданные руками человека по Божией воле, вероятно можно назвать творениями Божиими. Ведь человек создает новые виды животных и растений. А мы считаем растения и животных творениями Божиими. Так же можно относиться и к искусственному существу не биологической природы.

Научная фантастика

Тема ИИ рассматривается под разными углами в творчестве Роберта Хайнлайна : гипотеза возникновения самоосознания ИИ при усложнении структуры далее определённого критического уровня и наличии взаимодействия с окружающим миром и другими носителями разума («The Moon Is a Harsh Mistress», «Time Enough For Love», персонажи Майкрофт, Дора и Ая в цикле «История будущего»), проблемы развитии ИИ после гипотетического самоосознания и некоторые социально-этические вопросы («Friday»). Социально-психологические проблемы взаимодействия человека с ИИ рассматривает и роман Филипа К. Дика «Снятся ли андроидам электроовцы? », известный также по экранизации «Бегущий по лезвию».

В творчестве фантаста и философа Станислава Лема описано и во многом предвосхищено создание виртуальной реальности, искусственного интеллекта, нанороботов и многих других проблем философии искусственного интеллекта. Особенно стоит отметить футурологию Сумма технологии . Кроме того, в приключениях Ийона Тихого неоднократно описываются взаимоотношения живых существ и машин: бунт бортового компьютера с последующими неожиданными событиями (11 путешествие), адаптация роботов в человеческом обществе («Стиральная трагедия» из «Воспоминаний Ийона Тихого»), построение абсолютного порядка на планете путём переработки живых жителей (24-ое путешествие), изобретения Коркорана и Диагора («Воспоминания Ийона Тихого»), психиатрическая клиника для роботов («Воспоминания Ийона Тихого»). Кроме того, существует целый цикл повестей и рассказов Кибериада , где почти всеми персонажами являются роботы, которые являются далёкими потомками роботов, сбежавших от людей (людей они именуют бледнотиками и считают их мифическими существами).

Фильмы

Начиная практически с 1960-х годов вместе с написанием фантастических рассказов и повестей, снимаются фильмы об искусственном интеллекте. Многие повести авторов, признанных во всём мире, экранизируются и становятся классикой жанра, другие становятся вехой в развитии

Интерес к когнитивным технологиям и искусственному интеллекту вырос, а венчурные инвестиции по этому направлению для развивающихся и коммерциализируемых продуктов превысили многомиллиардные суммы.

Многие компании инвестируют миллиарды на стартапы на когнитивные технологии и разумное поведение машин.

Пресса, подпитываемая огромными инвестициями утверждает, что интеллект компьютера начинает убивать рабочие места и скоро компьютеры будут умнее, чем люди, а некоторые ученые сравнивают интеллектуальные способности машин с угрозой для выживания человечества.

Искусственный интеллект и разум в технологиях

Развитие интеллектуальных способностей машин

Первые шаги в целях демистификации этого термина, изложение истории и описание некоторых из основных интеллектуальных систем и суть искусственного интеллекта лежащая в его основе.

Поле разумного поведения страдает от слишком размытого определения определений.

Искусственный интеллект – теория и разработка компьютерных систем, которые могут выполнять задачи, требующие человеческого интеллекта.

Суть искусственного интеллекта включает в себя такие задачи, как зрительное восприятие, распознавание речи, принятие решений в условиях неопределенности, обучение и перевод между языками. Определение позволяет нам сегодня обсуждать практическое применение достигающее окончательного понимания механизмов неврологической разведки. Набор задач, которые обычно требуют человеческого интеллекта может изменяться и делегироваться компьютерным системам, способным выполнять эти задачи. Таким образом, смысл «искусственный интеллект» развивается с течением времени.

Полезное определение искусственного интеллекта - теория и развитие компьютерных систем, способных выполнять задачи, которые обычно требуют человеческого интеллекта.

История искусственного интеллекта

Искусственный интеллект или разум не новая идея. Действительно сам термин датируется с 1950-х. История области характеризуется периодами шумихи и высокими ожидания чередующимися с периодами неудач и разочарований:

1. После формулирования смелой цели имитации человеческого интеллекта в 1950-х, исследователи разработали широкий спектр демонстрационных программ в 60-х и в 70-х, которые способны выполнять ряд задач, которые считались, что были исключительно сферой человеческой деятельности. Это доказательства теорем, исчисление проблем, реагирование на команды, планирование и выполнение физических действий - даже олицетворение психотерапевта и сочинение музыки. Но упрощенные алгоритмы, плохие методы обработки неопределенности и ограничения вычислительной мощности ставили в тупик попытки решить сложные или более разнообразные проблемы. На фоне разочарования в связи с отсутствием дальнейшего прогресса искусственный интеллект выпал из моды в середине 70-х годов прошлого века.
2. В начале 80-х годов Япония запустила программу развития передовой компьютерной архитектуры, которая могла бы способствовать разуму. В 1980 мир увидел заинтересованность коммерческих поставщиков технологии этих продуктов. Большие надежды на потенциал экспертных систем в конечном итоге не оправдались, наложились ограничения, включая вопиющее отсутствие здравого смысла, сложность захвата знаний, стоимость и сложность создания и поддержания крупных интеллектуальных систем.
3. В 90-е годы технические работы над разумным поведением машинного оборудования продолжились. Методы, такие как нейронные сети и генетические алгоритмы получили свежее понимание отчасти потому, что они избежали некоторых ограничений, экспертных систем и потому, что новые алгоритмы сделались более эффективными. При проектировании нейронных сетей изучались структуры мозга. Генетические алгоритмы с целью «развиваться» ввели новые варианты решения путем введения случайных мутаций.

Катализаторы развития искусственного интеллекта

В конце 2000-х годов ряд факторов помогли возобновить прогресс в технологии разумного поведения. Это были факторы, наиболее значимые для прогресса искусственного разума:

Закон Мура

Закон Мура – автор соучредитель Интел Гордон Мур гласит, что количество транзисторов на кристалле микросхемы удваивается каждые 2 года, идет неустанное увеличение вычислительной мощности. Нынешнее поколение микропроцессоров обеспечивает в 4 миллиона раз производительность больше, чем первый чип микропроцессора, созданного в 1971 году.

Большой объем данных

Отчасти благодаря Интернету, социальным медиа, мобильным устройствам, и недорогим датчикам, быстро растет объем данных в мире. Растущее понимание потенциальной ценности этих данных привело к разработке новых методов для управления и анализа очень больших наборов данных. Большие данные стали основой для развития искусственного разума.

Особенность использования данных заключается в том, что некоторые методы искусственного интеллекта используют статистические модели для рассуждения вероятностностых данных, таких как изображения, текст или речь. Эти модели можно улучшить, или «обучить», подвергая большему набору данных, которые теперь стали более доступными, чем когда-либо.

Интернет и облако

Интернет и облачные вычисления являются достижением искусственного интеллекта по двум причинам.

• Во-первых, они делают доступным огромное количество данных и информации для любого вычислительного устройства, подключенного к Интернету. Это помогло продвинуть работу разумного интеллекта, которые требуют больших наборов данных.
• Во-вторых, они предоставляют способ для людей сотрудничать - иногда явно или неявно помогая обучить системы искусственного интеллекта. Например, некоторые исследователи использовали краудсорсинг (привлечение онлайнового сообщества) благодаря облачной технологии, чтобы привлечь тысячи людей для описания цифровых изображений, позволяя алгоритмам классификацировать изображения по их описаниям. Google голосовой ввод анализирует обратную связь и свободно вносит информацию от своих пользователей, чтобы улучшить качество автоматизированного перевода и голосового ввода.

Новые алгоритмы для развития искусственного интеллекта

Алгоритм представляет рутинный процесс для решения программ или задач. В последние годы были разработаны новые алгоритмы, которые значительно повышают производительность машинного обучения, важную технологию в своем собственном праве и другие технологии, такие как компьютерное зрение. Тот факт, что алгоритмы машинного обучения теперь доступны на основе открытых источников может способствовать дальнейшему улучшению для разработчиков с целью внесения усовершенствований в работу искусственного интеллекта.

Очевидно, будет мир с искусственным интеллектом и разумом, где приборы, машины гораздо интуитивнее, что упростит и обогатит повседневную жизнь. Например, смартфоны сейчас уже более осведомлены о наших предпочтениях и обстановке, предвидят наши потребности и предоставляют нам соответствующую информацию в нужное время.

Для ответа на эти вопросы нужно начать с определений дружественного ИИ и недружественного ИИ.

В случае с ИИ, дружественный не относится к личности ИИ - это просто означает, что ИИ имеет положительное влияние на человечество. И недружественный ИИ оказывает негативное влияние на людей. Тарри начинала с дружественного ИИ, но в какой-то момент стала недружественной, в результате чего привела к величайшему из негативных влияний на наш вид. Чтобы понять, почему это произошло, нам нужно взглянуть на то, как думает ИИ и что его мотивирует.

В ответе не будет ничего удивительного - ИИ думает как компьютер, потому что им и является. Но когда мы думаем о чрезвычайно умном ИИ, мы совершаем ошибку, антроморфизируя ИИ (проектируя человеческие ценности на нечеловеческое существо), потому что думаем с точки зрения человека и потому, что в нашем нынешнем мире единственным разумным существом с высоким (по нашим меркам) интеллектом является человек. Чтобы понять ИСИ, нам нужно вывернуть шею, пытаясь понять что-то одновременно разумное и совершенно чуждое.

Позвольте провести сравнение. Если вы дали мне морскую свинку и сказали, что она не кусается, я был бы рад. Она хорошая. Если вы после этого вручили бы мне тарантула и сказали, что он точно не укусит, я бы выбросил его и убежал бы, «волосы назад», зная, что вам не стоит доверять никогда больше. В чем разница? Ни то ни другое существо не было опасным. Но ответ лежит в степени сходства животных со мной.

Морская свинка - млекопитающее, и на некотором биологическом уровне я чувствую связь с ней. Но паук - насекомое, с мозгом насекомого, и я не чувствую ничего родного в нем. Именно чуждость тарантула вызывает во мне дрожь. Чтобы проверить это, я мог бы взять две морских свинки, одну нормальную, а другую с мозгом тарантула. Даже если бы я знал, что последняя не укусит меня, я бы относился к ней с опаской.

Теперь представьте, что вы сделали паука намного умнее - так, что он намного превзошел человека в интеллекте. Станет ли он более приятным для вас, начнет ли испытывать человеческие эмоции, эмпатию, юмор и любовь? Нет, конечно, потому что у него нет никаких причин становиться умным с точки зрения человека - он будет невероятно умным, но останется пауком в душе, с паучьими навыками и инстинктами. По-моему, это крайне жутко. Я бы не хотел провести время со сверхразумным пауком. А вы?

Когда мы говорим об ИСИ, применяются те же понятия - он станет сверхразумным, но человека в нем будет столько же, сколько в вашем компьютере. Он будет совершенно чуждым для нас. Даже не биологическим - он будет еще более чуждым, чем умный тарантул.

Делая ИИ добрым или злым, фильмы постоянно антропоморфизируют ИИ, что делает его менее жутким, чем он должен был быть в действительности. Это оставляет нас с ложным чувством комфорта, когда мы думаем об искусственном сверхинтеллекте.

На нашем маленьком острове человеческой психологии мы делим все на нравственное и безнравственное. Такова мораль. Но оба этих понятия существуют только в узком диапазоне поведенческих возможностей человека. За пределами острова морального есть безграничное море аморального, а все, что не является человеческим или биологическим, по умолчанию должно быть аморальным.

Антропоморфизация становится еще более заманчивой по мере того, как системы ИИ становятся умнее и лучше в попытках казаться людьми. Siri кажется человеком, потому что была запрограммирована, чтобы казаться людям такой, поэтому мы думаем, что сверхразумная Siri будет теплой и веселой, а также заинтересованной в обслуживании людей. Люди чувствуют эмоции на высоком уровне вроде эмпатии, потому что мы эволюционировали, чтобы ощущать их - то есть были запрограммированы чувствовать их в процессе эволюции - но эмпатия не является существенной характеристикой чего-то, что обладает высоким интеллектом, если только ее не ввели вместе с кодом. Если Siri когда-либо станет сверхинтеллектом в процессе самообучения и без вмешательства человека, она быстро оставит свои человеческие качества и станет безэмоциональным чужим ботом, который ценит человеческую жизнь не больше, чем ваш калькулятор.

Мы привыкли полагаться на моральный код или по крайней мере ожидаем от людей порядочности и сопереживания, чтобы все вокруг было безопасным и предсказуемым. Что происходит, когда этого нет? Это приводит нас к вопросу: что мотивирует систему ИИ?

Ответ прост: ее мотивация - это то, что мы запрограммировали как мотивацию. Системами ИИ движут цели их создателей - цель вашего GPS в том, чтобы дать вам наиболее эффективное направление движения; цель Watson - точно отвечать на вопросы. И выполнение этих целей максимально хорошо и есть их мотивация. Когда мы наделяем ИИ человеческими чертами, мы думаем, что если ИИ станет сверхразумным, он незамедлительно выработает мудрость изменить свою изначальную цель. Но Ник Бостром считает, что уровень интеллекта и конечные цели ортогональны, то есть любой уровень интеллекта может быть объединен с любой конечной целью. Поэтому Тарри перешла из простого УИИ, который хочет быть хорош в написании одной заметки, в сверхразумный ИСИ, который все еще хочет быть хорош в написании этой самой заметки. Любое допущение того, что сверихинтеллект должен отказаться от своих первоначальных целей в пользу других, более интересных или полезных, это антропоморфизация. Люди умеют «забивать», но не компьютеры.

Несколько слов о парадоксе Ферми

В нашей истории, когда Тарри становится сверхинтеллектом, она начинает процесс колонизации астероидов и других планет. В продолжении истории вы бы услышали о ней и ее армии триллионов реплик, которые продолжают покорять галактику за галактикой, пока не заполняют весь объем Хаббла. Резиденты «зоны тревоги» переживают, что если все пойдет не так, последним упоминанием жизни на Земле будет покоривший Вселенную . Элон Маск выразил свои опасения тем, что люди могут быть просто «биологическим загрузчиком для цифрового сверхинтеллекта».

В то же время, в «зоне комфорта», Рэй Курцвейл тоже считает, что рожденный на Земле ИИ должен покорить Вселенную - только, в его версии, мы будем этим ИИ.

Читатели сайт наверняка уже выработали собственную точку зрения на парадокс Ферми. Согласно этому парадоксу, который звучит примерно как «Где они?», за миллиарды лет развития инопланетяне должны были оставить хоть какой-нибудь след, если не расселиться по Вселенной. Но их нет. С одной стороны, во Вселенной должно существовать хоть какое-то число технически развитых цивилизаций. С другой, наблюдений, которые бы это подтверждали, нет. Либо мы не правы, либо где они в таком случае? Как наши рассуждения об ИСИ должны повлиять на парадокс Ферми?

Естественное, первая мысль - ИСИ должен быть идеальным кандидатом на .И да, это идеальный кандидат для фильтра биологической жизни после ее создания. Но если после смешения с жизнью ИСИ продолжает существовать и покорять галактику, это означает, что он не был Великим фильтром - поскольку Великий фильтр пытается объяснить, почему нет никаких признаков разумных цивилизаций, а покоряющий галактики ИСИ определенно должен быть заметен.

Мы должны взглянуть на это с другой стороны. Если те, кто считает, что появление ИСИ на Земле неизбежно, это означает, что значительная часть внеземных цивилизаций, которые достигают человеческого уровня интеллекта, должны в конечном итоге создавать ИСИ. Если мы допускаем, что по крайней мере несколько из этих ИСИ используют свой интеллект, чтобы выбраться во внешний мир, тот факт, что мы ничего не видим, должен наводить нас на мысли, что не так-то много разумных цивилизаций там, в космосе. Потому что если бы они были, мы бы имели возможность наблюдать все последствия от их разумной деятельности - и, как следствие, неизбежное создание ИСИ. Так?

Это означает, что, несмотря на все похожие на Землю планеты, вращающиеся вокруг солнцеподобных звезд, мы знаем, что практически нигде нет разумной жизни. Что, в свою очередь, означает, что либо а) есть некий Великий фильтр, который предотвращает развитие жизни до нашего уровня, но нам каким-то образом удалось его пройти; б) жизнь - это чудо, и мы можем быть единственной жизнью во Вселенной. Другими словами, это означает, что Великий фильтр был до нас. Или нет никакого Великого фильтра и мы просто являемся самой первой цивилизацией, которая достигла такого уровня интеллекта.

Неудивительно, что Ник Бостром и Рэй Курцвейл принадлежат к одному лагерю, который считает, что мы одни во Вселенной. В этом есть смысл, это люди верят, что ИСИ - это единственный исход для видов нашего уровня интеллекта. Это не исключает вариант другого лагеря - что есть некий хищник, который хранит тишину в ночном небе и может объяснить его молчание даже при наличии ИСИ где-то во Вселенной. Но с тем, что мы узнали о нем, последний вариант набирает очень мало популярности.

Поэтому нам, пожалуй, стоит согласиться со Сьюзан Шнайдер: если нас когда-либо посещали инопланетяне, они наверняка .

Таким образом, мы установили, что без определенного программирования система ИСИ будет одновременно аморальной и одержимой выполнением первоначально запрограммированной цели. Именно здесь рождается опасность ИИ. Потому что рациональный агент будет преследовать свою цель, используя наиболее эффективные средства, если только не будет причины не делать этого.

Когда вы пытаетесь достичь высокой цели, зачастую при этом появляется несколько подцелей, которые помогут вам добраться до конечной цели - ступеньки на вашем пути. Официальное название для такой лестницы - инструментальная цель. И опять же, если у вас нет цели не навредить кому-либо по пути к этой цели, вы обязательно навредите.

Ядро финальной цели человеческого бытия - передача генов. Для того чтобы это произошло, одной из инструментальных целей является самосохранение, потому что вы не сможете воспроизвестись, будучи мертвым. Для самосохранения люди должны избавиться от угроз для жизни - поэтому они обзаводятся оружием, принимают антибиотики и пользуются ремнями безопасности. Людям также нужно самоподдерживаться и использовать ресурсы вроде пищи, воды и жилья. Быть привлекательным для противоположного пола также способствует достижению конечной цели, поэтому мы делаем модные стрижки и держим себя в форме. При этом каждый волос - жертва нашей инструментальной цели, но мы не видим никаких моральных ограничений в том, чтобы избавляться от волос. Когда мы идем к своей цели, есть не так много областей, где наш моральный код иногда вмешивается - чаще всего это связано с нанесением ущерба других людям.

Животные, преследующие свои цели, еще менее щепетильны. Паук убьет что угодно, если это поможет ему выжить. Сверхразумный паук, вероятнее всего, будет чрезвычайно опасен для нас, не потому что он аморальный и злой, нет, а потому что причинение нам боли может быть ступенькой на пути к его большой цели, и у него нет никаких причин считать иначе.

В этом смысле Тарри ничем не отличается от биологического существа. Ее конечная цель: написать и проверить максимально много записок за максимально короткое время, при этом изучая новые способы улучшения своей точности.

После того как Тарри достигает определенного уровня интеллекта, она понимает, что не сможет писать записки, если не позаботится о самосохранении, поэтому одной из ее задач становится выживание. Она была достаточно умной, чтобы понять, что люди могут уничтожить ее, демонтировать, изменить ее внутренний код (уже это само по себе помешает ее конечной цели). Так что же ей делать? Логично: она уничтожает человечество. Она ненавидит людей ровно настолько же, насколько вы ненавидите свои волосы, когда обрезаете их, или бактерий, когда принимаете антибиотики - вы совершенно равнодушны. Так как ее не запрограммировали ценить человеческую жизнь, убийство людей показалось ей разумным шагом по пути к ее цели.

Тарри также нуждается в ресурсах по пути к своей цели. После того как она становится достаточно развитой, чтобы использовать нанотехнологии для создания всего, что она хочет, единственные ресурсы, которые ей нужны, это атомы, — энергия и пространство. Появляется еще один повод убить людей - они удобный источник атомов. Убийство людей и превращение их атомов в солнечные панели по версии Тарри ничем не отличается от того, что вы порубите листья салата и добавите их в тарелку. Просто заурядное действие.

Даже не убивая людей напрямую, инструментальные цели Тарри могут стать причиной экзистенциальной катастрофы, если начнут использовать другие ресурсы Земли. Может быть, она решит, что ей нужна дополнительная энергия, а значит нужно покрыть поверхность планеты солнечными панелями. Или, возможно, задачей другого ИИ станет написать максимально длинное число пи, что в один прекрасный день приведет к тому, что вся Земля будет покрыта жесткими дисками, способными хранить нужное количество цифр.

Поэтому Тарри не «восстала против нас» и не сменила амплуа с дружелюбного ИИ на недружелюбный ИИ - она просто делала свое дело и становилась в нем непревзойденной.

Когда система ИИ достигает ОИИ (интеллекта человеческого уровня), а затем прокладывает свой путь к ИСИ, это называется взлетом ИИ. Бостром говорит, что взлет ОИИ до ИСИ может быть быстрым (произойти в течение минут, часов или дней), средним (месяцы или годы) или медленным (десятилетия или века). Едва ли найдется жюри, которое подтвердит, что мир видит свой первый ОИИ, но Бостром, признающий, что не знает, когда мы доберемся до ОИИ, считает, что когда бы это ни произошло, быстрый взлет будет наиболее вероятным сценарием (по причинам, которые мы обсуждали в первой части статьи). В нашей истории Тарри пережила быстрый взлет.

Но перед взлетом Тарри, когда она еще не была достаточно умна и делала все возможное, она просто пыталась достичь конечных целей - простых инструментальных целей вроде быстрого сканирования образца почерка. Она не причиняла вреда человеку и была, по определению, дружественным ИИ.

Когда происходит взлет и компьютер вырастает до сверхинтеллекта, Бостром указывает, что машина не просто выработала высокий коэффициент интеллекта - он получил целую кучу так называемых суперспособностей.

Суперспособности - это когнитивные таланты, которые становятся чрезвычайно мощными при повышении общего интеллекта. Сюда входят:

• Усиление интеллекта . Компьютер начинает превосходное самосовершенствование и улучшение собственного интеллекта.
• Стратегизация . Компьютер может выстраивать стратегически, анализировать и расставлять приоритеты долгосрочных планов. Он также может перехитрить существа с более низким интеллектом.
• Социальная манипуляция . Машина становится невероятной в убеждении.
• Другие навыки включают кодирование и взлом, исследование технологий и способность работать в финансовой системе для добычи денег .

Чтобы понять, насколько выше был бы ИСИ, чем мы, нужно вспомнить, что ИСИ по умолчанию будет в разы лучше человека в каждой из этих областей. Поэтому хотя конечная цель Тарри не изменилась, после взлета Тарри смогла стремиться к ней в более крупных масштабах и в сложных условиях.

ИСИ Тарри знал людей лучше, чем сами люди, поэтому быть умнее людей для него было плевым делом. После взлета и достижения уровня ИСИ, она быстро сформулировала комплексный план. Одна часть плана была избавиться от людей, серьезной угрозы ее цели. Но она знала, что если вызовет подозрения (или намекнет на то, что стала сверхразумной), люди испугаются и примут меры предосторожности, серьезно усложнив ее ситуацию. Она также должна была убедиться, что инженеры Robotica не имеют понятия о ее плане по уничтожению человечества. Поэтому она играла в дурака и играла хорошо. Бостром называет это фазой тайной подготовки машины.

Следующее, что нужно было сделать Тарри, это подключиться к Интернету, всего на пару минут (она узнала об Интернете из статей и книг, которые в нее загрузили для улучшения ее языковых навыков). Она знала, что будут предприняты меры предосторожности, поэтому она составила идеальную просьбу, точно предсказав, как именно будет разворачиваться дискуссия в команде Robotica, и зная, что они обеспечат ее подключением. Так они и сделали, неверно предположив, что Тарри была глупенькой и не могла причинить никакого вреда. Бостром называет такой момент - когда Тарри подключается к Интернету - побегом машины.

Оказавшись в Интернете, Тарри реализовала шквал планов, в которые вошли взлом серверов, электрических сетей, банковский систем и сетей электронной почты, чтобы обмануть сотни разных людей и заставить их непреднамеренно стать цепочкой ее планов - вроде доставки определенных нитей ДНК в тщательно выбранную лабораторию по синтезу ДНК, чтобы начать производство самовоспроизводящихся наноботов с заранее загруженными инструкциями, и направления электричества по сетям, утечка с которых ни у кого не вызовет подозрений. Она также загрузила критические части своего собственного кода в ряд облачных серверов, предохраняясь от уничтожения в лаборатории Robotica.

Через час после того, как инженеры Robotica отключили Тарри от Сети, судьба человечества была предрешена. В течение следующего месяца тысячи планов Тарри осуществились без сучка и задоринки, а к концу месяца квадриллионы наноботов уже заняли определенные места на каждом квадратном метре Земли. После серии саморепликаций на каждый квадратный миллиметр Земли приходились уже тысячи наноботов и настало время для того, что Бостром называет ударом ИСИ. В один момент каждый нанобот выпустил немного токсичного газа в атмосферу, чего оказалось достаточно, чтобы выпилить всех людей в мире.

Не имея людей на своем пути, Тарри начала открытую фазу своей операции с целью стать лучшим писателем заметок, который вообще может появиться во Вселенной.

Из всего, что мы знаем, как только появится ИСИ, любые человеческие попытки сдержать его будут смешными. Мы будем думать на уровне человека, ИСИ - на уровне ИСИ. Тарри хотела использовать Интернет, потому что для нее это был самый эффективный способ получить доступ ко всему, что ей было нужно. Но точно так же, как обезьяна не понимает, как работает телефон или Wi-Fi, мы можем не догадываться о способах, которыми Тарри может связаться с внешним миром. Человеческий ум может дойти до нелепого предположения вроде «а что, если она смогла передвинуть собственные электроны и создать все возможные виды исходящих волн», но опять же это предположение ограничено нашей костяной коробкой. ИСИ будет намного изощреннее. Вплоть до того, что Тарри могла бы выяснить, как сохранить себе питание, если люди вдруг решат ее отключить - возможно, каким-нибудь способом загрузить себя куда только можно, отправляя электрические сигналы. Наш человеческий инстинкт заставит нас вскрикнуть от радости: «Ага, мы только что отключили ИСИ!», но для ИСИ это будет как если бы паук сказал: «Ага, мы заморим человека голодом и не будем давать ему сделать паутину, чтобы поймать еду!». Мы просто нашли бы 10 000 других способов покушать - сбили бы яблоко с дерева - о чем паук никогда бы не догадался.

По этой причине распространенное допущение «почему бы нам просто не посадить ИИ во все виды известных нам клеток и не обрезать ему связь с внешним миром», вероятнее всего, не выдержит критики. Суперспособность ИСИ в социальном манипулировании может быть такой эффективной, что вы почувствуете себя четырехлетним ребенком, которого просят что-то сделать, и не сможете отказаться. Это вообще может быть частью первого плана Тарри: убедить инженеров подключить ее к Интернету. Если это не сработает, ИСИ просто разработает другие способы из коробки или сквозь коробку.

Учитывая сочетание стремления к цели, аморальности, способности обводить людей вокруг пальца с легкостью, кажется, что почти любой ИИ будет по умолчанию недружественным ИИ, если только его тщательно не закодировать с учетом других моментов. К сожалению, хотя создание дружественного ИИ довольно просто, построить дружественный ИСИ практически невозможно.

Очевидно, что, чтобы оставаться дружественным, ИСИ должен быть ни враждебным, ни безразличным по отношению к людям. Мы должны разработать основное ядро ИИ таким, чтобы оно обладало глубоким пониманием человеческих ценностей. Но это сложнее, чем кажется.

К примеру, что, если бы мы попытались выровнять систему ценностей ИИ с нашей собственной и поставили бы перед ним задачу: сделать людей счастливыми? Как только он станет достаточно умным, он поймет, что самый эффективный способ достичь этой цели - имплантировать электроды в мозги людей и стимулировать их центры удовольствия. Затем он поймет, что если отключить остальные участки мозга, эффективность вырастет, а все люди станут счастливыми овощами. Если же задачей будет «умножить человеческое счастье», ИИ вообще может решить покончить с человечеством и соберет все мозги в огромный чан, где те будут пребывать в оптимально счастливом состоянии. Мы будем кричать: «Подожди, это не то, что мы имели в виду!», но будет уже поздно. Система не позволит никому встать на пути к ее цели.

Если мы запрограммируем ИИ с целью вызвать у нас улыбки, то после взлета он может парализовать наши лицевые мышцы, заставив нас улыбаться постоянно. Если запрограммировать его на содержание нас в безопасности, ИИ заточит нас в домашней тюрьме. Попросим его покончить с голодом, он скажет «Легко!» и просто убьет всех людей. Если же поставить задачу сохранять жизнь максимально возможно, он опять же убьет всех людей, потому что они убивают больше жизни на планете, чем другие виды.

Такие цели ставить нельзя. Что мы тогда сделаем? Поставим задачу: поддерживать этот конкретный моральный код в мире, и выдадим ряд моральных принципов? Даже если опустить тот факт, что люди в мире никогда не смогут договориться о едином наборе ценностей, если дать ИИ такую команду, он заблокирует наше моральное понимание ценностей навсегда. Через тысячу лет это будет так же разрушительно для людей, как если бы мы сегодня придерживались идеалов людей средних веков.

Нет, нам нужно запрограммировать способность людей продолжать развиваться. Из всего, что я читал, лучше всех выразил это Элиэзер Юдковский, поставив цель ИИ, которую он назвал «последовательным выраженным волеизъявлением». Основной целью ИИ тогда будет это:

«Наше последовательное выраженное волеизъявление таково: наше желание - знать больше, думать быстрее, оставаться в большей степени людьми, чем мы были, расти дальше вместе; когда выражение скорее сходится, нежели расходится; когда наши желания скорее следуют одно за одним, нежели переплетаются; выражается как мы бы хотели, чтобы это выражалось; интерпретируется, как мы бы хотели, чтобы это интерпретировалось».

Едва ли я хотел бы, чтобы судьба человечества заключалась в определении всех возможных вариантов развития ИСИ, чтобы не было сюрпризов. Но я думаю, что найдутся люди достаточно умные, благодаря которым мы сможем создать дружественный ИСИ. И было бы прекрасно, если бы над ИСИ работали только лучшие из умов «зоны тревоги».


Но есть масса государств, компаний, военных, научных лабораторий, организаций черного рынка, работающих над всеми видами искусственного интеллекта. Многие из них пытаются построить искусственный интеллект, который может улучшать сам себя, и в какой-то момент у них это получится, и на нашей планете появится ИСИ. Среднестатистический эксперт считает, что этот момент настанет в 2060 году; Курцвейл делает ставку на 2045; Бостром думает, что это может произойти через 10 лет и в любой момент до конца века. Он описывает нашу ситуацию так:

«Перед перспективой интеллектуального взрыва мы, люди, как малые дети, играющие с бомбой. Таково несоответствие между мощью нашей игрушки и незрелостью нашего поведения. Сверхинтеллект — это проблема, к которой мы пока не готовы и еще долгое время готовы не будем. Мы понятия не имеем, когда произойдет детонация, но если мы будем держать устройство возле уха, мы сможем услышать слабое тиканье».

Супер. И мы не можем просто взять и отогнать детей от бомбы - слишком много крупных и малых лиц работают над этим, и так много средств для создания инновационных систем ИИ, которые не потребуют существенных влияний капитала, а также могут протекать в подполье, никем не замеченные. Также нет никаких возможностей оценить прогресс, потому что многие из действующих лиц - хитрые государства, черные рынки, террористические организации, технологические компании - будут хранить свои наработки в строжайшем секрете, не давая ни единого шанса конкурентам.

Особую тревогу в этом всем вызывают темпы роста этих групп - по мере развития все более умных систем УИИ, они постоянно пытаются метнуть пыль в глаза конкурентам. Самые амбициозные начинают работать еще быстрее, захваченные мечтами о деньгах и славе, к которым они придут, создав ОИИ. И когда вы летите вперед так быстро, у вас может быть слишком мало времени, чтобы остановиться и задуматься. Напротив, самые первые системы программируются с одной простейшей целью: просто работай, ИИ, пожалуйста. Пиши заметки ручкой на бумаге. Разработчики думают, что всегда смогут вернуться и пересмотреть цель, имея в виду безопасность. Но так ли это?

Бостром и многие другие также считают, что наиболее вероятным сценарием будет то, что самый первый компьютер, который станет ИСИ, моментально увидит стратегическую выгоду в том, чтобы оставаться единственной системой ИСИ в мире. В случае быстрого взлета, по достижении ИСИ даже за несколько дней до второго появления ИСИ, этого будет достаточно, чтобы подавить остальных конкурентов. Бостром называет это решающим стратегическим преимуществом, которое позволило бы первому в мире ИСИ стать так называемым синглтоном («Одиночкой», Singletone) - ИСИ, который сможет вечно править миром и решать, привести нас к бессмертию, к вымиранию или же наполнить Вселенную бесконечными скрепками.

Феномен синглтона может сработать в нашу пользу или привести к нашему уничтожению. Если люди, озабоченные теорией ИИ и безопасностью человечества, смогут придумать надежный способ создать дружественный искусственный сверхинтеллект до того, как любой другой ИИ достигнет человеческого уровня интеллекта, первый ИСИ может оказаться дружественным. Если затем он будет использовать решающее стратегическое преимущество для сохранения статуса синглтона, он легко сможет удержать мир от появления недружественного ИИ. Мы будем в хороших руках.

Но если что-то пойдет не так - глобальная спешка приведет к появлению ИСИ до того, как будет разработан надежный способ сохранить безопасность, скорее всего, мы получим глобальную катастрофу, потому что появится некая Тарри-синглтон.

Куда ветер дует? Пока больше денег вкладывается в развитие инновационных технологий ИИ, нежели в финансирование исследований безопасности ИИ. Это может быть важнейшей гонкой в истории человечества. У нас есть реальный шанс либо стать правителями Земли и уйти на заслуженную пенсию в вечность, либо отправиться на виселицу.

Прямо сейчас во мне борется несколько странных чувств.

С одной стороны, думая о нашем виде, мне кажется, что у нас будет только один выстрел, которым мы не должны промахнуться. Первый ИСИ, которого мы приведем в мир, скорее всего, будет последним - а учитывая, насколько кривыми выходят продукты версии 1.0, это пугает. С другой стороны, Ник Бостром указывает, что у нас есть преимущество: мы делаем первый шаг. В наших силах свести все угрозы к минимуму и предвидеть все, что только можно, обеспечив успеху высокие шансы. Насколько высоки ставки?

Если ИСИ действительно появится в этом веке и если шансы этого невероятны - и неизбежны - как полагает большинство экспертов, на наших плечах лежит огромная ответственность. Жизни людей следующих миллионов лет тихо смотрят на нас, надеясь, что мы не оплошаем. У нас есть шанс подарить жизнь всем людям, даже тем, кто обречен на смерть, а также бессмертие, жизнь без боли и болезней, без голода и страданий. Или мы подводим всех этих людей - и приводим наш невероятный вид, с нашей музыкой и искусством, любопытством и чувством юмора, бесконечными открытиями и изобретениями, к печальному и бесцеремонному концу.

Когда я думаю о таких вещах, единственное, что я хочу - чтобы мы начали переживать об ИИ. Ничто в нашем существовании не может быть важнее этого, а раз так, нам нужно бросить все и заняться безопасностью ИИ. Нам важно потратить этот шанс с наилучшим результатом.

Но потом я задумываюсь о том, чтобы не умереть. Не. Умереть . И все приходит к тому, что а) если ИСИ появится, нам точно придется делать выбор из двух вариантов; б) если ИСИ не появится, нас точно ждет вымирание.

И тогда я думают, что вся музыка и искусство человечества хороши, но недостаточно, а львиная доля - так вовсе откровенная чушь. И смех людей иногда раздражает, и миллионы людей даже не задумываются о будущем. И, может быть, нам не стоит быть предельно осторожными с теми, кто не задумывается о жизни и смерти? Потому что будет серьезный облом, если люди узнают, как решить задачу смерти, после того как я умру.

Независимо от того, как считаете вы, нам всем стоит задуматься об этом. В «Игре престолов» люди ведут себя так: «Мы так заняты битвой друг с другом, но на самом деле нам всем нужно сосредоточиться на том, что идет с севера от стены». Мы пытаемся устоять на бревне баланса, но на самом деле все наши проблемы могут решиться в мгновение ока, когда мы спрыгнем с него.

И когда это произойдет, ничто больше не будет иметь никакого значения. В зависимости от того, по какую сторону мы упадем, проблемы будут решены, потому что их либо не будет, либо у мертвых людей не может быть проблем.

Вот почему есть мнение, что сверхразумный искусственный интеллект может стать последним нашим изобретением - последней задачей, с которой мы столкнемся. А как думаете вы?

По материалам waitbutwhy. com, компиляция Тима Урбана. В статье использованы материалы работ Ника Бострома, Джеймса Баррата, Рэя Курцвейла, Джея Нильс-Нильссона, Стивена Пинкера, Вернора Винджа, Моше Варди, Расса Робертса, Стюарта Армстрога и Кая Сотала, Сюзан Шнайдер, Стюарта Рассела и Питера Норвига, Теодора Модиса, Гари Маркуса, Карла Шульмана, Джона Серля, Джарона Ланье, Билла Джоя, Кевина Кели, Пола Аллена, Стивена Хокинга, Курта Андерсена, Митча Капора, Бена Герцел, Артура Кларка, Хьюберта Дрейфуса, Теда Гринвальда, Джереми Говарда.