В 2014 году шведский философ и преподаватель Оксфордского университета Ник Бостром написал книгу «Суперинтеллект: пути, опасности, стратегии». По мнению автора, если искусственный интеллект и способности компьютеров превзойдут умственные возможности людей, то всё человечество как форма жизни исчезнет. ИИ сможет, по словам философа, полностью заменить человека и его навыки. Работа Ника Бострома была переведена на множество языков и стала мировым бестселлером. Однако некоторые учёные усомнились в категоричных заявлениях шведского философа.
В издании MIT Technology Review исполнительный директор Института искусственного интеллекта им. Аллена и профессор кафедры компьютерных наук и инженерии Вашингтонского университета Орен Этциони опубликовал итоги проведённого им опроса «Когда человечество достигнет суперинтеллекта и к чему это может привести». Интерес Орена вызвала не только нашумевшая работа шведского философа, но и тревожные заголовки в ведущих американских СМИ, передающие общее беспокойство по поводу угрозы искусственного интеллекта для человечества в ближайшем будущем.
Сначала американский профессор решил подробно остановиться на проведённом Ником Бостромом исследовании и понять, на чём базируются его категоричные заключения. Орену Этциони удалось выяснить, что шведский философ основывает свой 300-страничный труд на четырёх исследованиях способностей искусственного интеллекта, результаты которых были представлены на конференции 2011 года «Философия и теория искусственного интеллекта» в Греции. Не раскрывая сути и содержания этих исследований, Ник Бостром утверждает, что к 2022 году искусственный интеллект достигнет 10% мыслительных способностей человека, к 2040 году — 50%, а в 2075 году уровень развития искусственного интеллекта приблизится к 90%.
Пытаясь разобраться в серьёзности этого заявления, а также убедиться в том, разделяет ли позицию шведского философа научное сообщество, Орен Этциони опросил 193 членов Американской ассоциации по изучению искусственного интеллекта (American Association for Artificial Intelligence). Вопрос был таким: «В своей книге Ник Бостром определил искусственный интеллект как интеллект, который намного умнее человеческого мозга практически во всех сферах, включая научное творчество, мудрость и социальные навыки. Как вы думаете, когда мы достигнем искусственного интеллекта»? В опросе приняли участие 80 экспертов.
Согласно результатам, 20 человек уверены, что искусственного интеллекта вовсе не будет. Менее 10 экспертов высказали предположение, что суперинтеллект потеснит человеческий через четверть века, а большинство видит его появление в отдалённом будущем. Опрос проводился анонимно, однако под своими именами высказались 44 участника, среди них — Эдвард Фейгенбаум — лауреат премии Тьюринга 1994 года, знаменитый робототехник Родни Брукс, а также директор по исследованиям Google Питер Норвиг.
Некоторые из опрошенных экспертов, пожелавшие остаться анонимными, раскритиковали подход Ника Бострома. Они выразили принципиальное несогласие с концепцией исследования и заявили, что не стоит видеть в искусственном интеллекте угрозу для человечества.
По словам Орена Этциони, опрос представляет собой ограниченную научную ценность, по нему нельзя делать далеко идущие выводы — для большинства учёных приведённых доказательств оказалось недостаточно.
Тем не менее уже сейчас существует множество опасений, связанных с широким использованием искусственного интеллекта в некоторых областях нашей жизни. При этом прогнозы, пророчащие его появление в самом ближайшем будущем, безосновательны. В обозримой перспективе компьютер не сможет заменить человеческий мозг.
Более того, существует немало положительных моментов, связанных с появлением искусственного интеллекта. Например, его можно использовать в медицине для предотвращения врачебных ошибок, а также для сокращения количества дорожно-транспортных происшествий. Наконец, вполне возможно, что системы ИИ могли бы сотрудничать с людьми, чтобы создать симбиотический суперинтеллект.
Эдуард Эпштейн
Сегодня многие люди этим обеспокоены. Инженеры компании Googleсоздают алгоритмы безопасного обеспечения искусственного интеллекта. Существуют даже специальные фонды, куда вкладываются большие средства для реализации программ по развитию искусственного интеллекта. Так что сейчас профессионалы делают все возможное, чтобы свести возможность так называемого восстания машин к нулю и предотвратить возможность возникновения проблемы.
С другой стороны мы должны понимать, что любое действие, не предписанное определенным алгоритмом, требующее морального усилия, лежит в плоскости свободы воли, свойственной только существам разумным. Проблема восстания машин - это проблема соотношения между каузальным порядком, детерминированностью событий и свободным самоопределением. На представлениях о свободе воли построено представление о личности и ответственности. Волюнтаризм А. Шопенгауэра предполагает волю как «вещь в себе», недоступную для познания и не подчиняющуюся принципу причинности.
Что касается искусственного интеллекта, то так или иначе – это рациональная система, поддающаяся прогнозированию и программированию. Вследствие этого любое отклонение от детерминизма будет являться не проявлением свободы воли, а системной ошибкой. Вероятно, подобные ошибки могут понести за собой плачевные для человека последствия: технологические катастрофы, транспортные бедствия.
Однако, они будут носить скорее очаговый характер. Вспомним хотя бы недавний случай с автомобилем Tesla, который, двигаясь на автопилоте, не смог отличить ехавший навстречу грузовик от окружающей среды. Мы не можем отнести подобный случай к акту проявления свободы воли. Таким образом, восстание машин будет возможно только тогда, когда они будут способны к творчеству и свободному самоопределению, что произойдет, безусловно, еще очень нескоро.
"ошибка " - не носит волевого характера, это стечение неблагоприятных обстоятельств, "ошибка " опаснее "преступления ", причины ее появления не исправить. "Восстание машин" это не будет волевым решением роботов , это будет результатом волевого решения человека, его ошибкой . Функционирование программ уже давно не подчиняется детерминистическому описанию, большинство уязмимостей/багов вносимыми программистами являются не результатом "поведения органического андроида"(программиста), а только ошибкой организации труда этого межанизма и проверки результата его работы; программы реагируют! (по дизайну, в событийно ориентирванном программировании), и свобода выбора (даже сильно детерминированной программы) существует, определяясь последовательностью наступления событий, и сложностью сформировавшейся истории (состояния программы) и реакцией на сложные ситуации (отработка исключений, котороя, по идее, тоже должна, но очень часто, не проверяется из-за трудоемкости создания кризисной ситуации, и даже более: ВСЕ кризисные ситуации не отрабатываются, это не входит в ТЗ, это не осуществимо по времени, это не осуществимо технологически; даже такие монстры как Microsoft (TM) выпускает сырой продукт[бета версию] на рынок и пользователи отлавливают ошибки в относительно простых продуктах этой корпорации, и это не считая всяких специально встроенных закладок; тот же смарт/теле-фон имеет ресурсов больше чем необходимо для выполнения функции телефона, и эти лишние ресурсы могут эксплуатировать вредоносные программы, которые могут и меняют поведение устройства )...
Компьютеры уже давно - не рациональные системы, это симмуляторы (среда для моделирования, в том числе и мозга, который точно не рациональная система), да пока проекции слабые, неэффективные, малофункциональные, но Вы должны понять это экперементы, а мозг в алгоритмах не нуждается, мозг нуждается в развитии, накоплении информации, шаблонов поведения,.. и программисты пока только накапливают методики эффективного решения проблем (не будь разума у кошки, она бы не поймала мышку, не будь разума у мышки,.. их бы истребили кошки, накопив достаточное количество шаблонных поведений мышей), а это значит, что сеть будет обучена нестандартным, нешаблонным решениям (что уже продемонстрированно в игре го)... а следующий шаг - смена системотехники (элементной базы на боле скоростные симмуляторы, как уже сделано для майнинга биткоинов)... мы уже давно не понимаем большие данные, а в случае технологической сингулярности, мы даже не успеем понять, что поняли машины и какие процессы они запустят, мир выйдет из под контроля, потому, что мы так себя запрограммировали, в надежде, что "молоток никогда не ударит по пальцам, сам", мы не понимаем, что свобода и воля тут ни причем, это стечение обстоятельств, и нарушение правил техники безопасности...
Ну, а когда: безалаберность менеджмента сложаться с ошибками программистов, стечение обстаятельств наложатся на паранною военных, технологический прогресс столкнется с наведенной информационной неуправляемостью или вредоносным влиянием... "молоток ударит по пальцам".
Нами уже давно играют роботы... на бирже уже не раз высокоскоростной трейдинг вызывал кризисы, мы пока этого сильно стараемся не замечать, но это пока, мы еще близоруки, и это фатально.
Ответить
Прокомментировать
Некоторые люди считают, что скоро машины восстанут против людей в силу преимущества их интеллекта над человеческим, и люди будут втянуты в войну уже не друг с другом. Орен Этциони, ученый из Америки, сделал опрос среди своих коллег, и итоги оказались весьма очевидными: большинство трудящихся во имя науки отрицают возможность гибели человеческой расы от противоборства с Искусственным Интеллектом.
Два года назад философ Ник Бостром создал книгу «Суперинтеллект: пути, опасности, стратегии». Там обосновывалась опасность ИИ, точнее, самообучения машин, что неизбежно приведет к перевесу в интеллекте в сторону ИИ, а это уже может грозить истреблением человечества. Компьютеры смогут заменить полностью всю человеческую деятельность, начиная от умственной и заканчивая физической работой. Труды Ника Бострома вызвали у публики "восторг", выразившийся в большой популярности книги и быстром получении звания бестселлера.
В одном номере Technology Review Орен Этциони директор Института ИИ, имеющий множество заслуг в изучении компьютерных технологий и являющийся истинным экспертом в своем деле, выставил итоги опроса, в котором ставились на обсуждения вопросы опасности ИИ и его достижения. Орена взволновала не только книга про суперинтеллект, но и тревожные статьи в американских средствах массовой информации, которые являлись зеркалом общего сомнения по поводу развития ИИ и возможной опасности для человечества.
Лицо института ИИ решил разобраться и понять причины таких резких заявлений Бострома. Он выяснил, что вся работа философа основана на нескольких исследованиях ИИ пятилетней давности. Не понимая и игнорируя суть комплекса этих экспериментов, Ник Бостром заявляет, что к концу двадцать первого века компьютерное мышление нагонит человеческий интеллект на 90%.
Орен Этциони решил выяснить серьезность этих выводов и мнение научных деятелей. Ради этой цели он опросил около двухсот членов Американской ассоциации по изучению искусственного интеллекта. По описанию Ника Бострома ИИ - это такой интеллект, который выше человеческого во всем, что только может он производить. "Когда же мы достигнем этого интеллекта?", - такая была тема для обсуждения.
Двадцать из опрошенных уверены, что искусственного интеллекта не удастся никак достичь. Около десятка специалистов посчитали, что ИИ догонит человеческий в ближайшем будущем, а остальные верят в достижение суперинтеллекта, но в далеком будущем. Опрос был анонимным, но открыто высказали свое мнение полсотни участников, среди которых были умнейшие люди современности.
Кое-кто из опрошенных экспертов, хоть и анонимно, но выразили свое возмущение методом Ника Бострома и объявили предрассудком категорический страх перед искусственным интеллектом, ведь нельзя видеть в нем только опасность.
Орен Отциони подвел итог, что научные доводы, использованные в работах философа, оказались недостаточными для ученых, а научную ценность такие труды представляют мизерную.
Однако сейчас все равно существует ворох переживаний насчет использования ИИ в нашей жизни, но предсказание его скорейшего появления основаны на пустых доводах. Еще очень нескоро компьютер станет способным полноценно заменять человеческий мозг.
Стоит видеть в появлении искусственного интеллекта тот широкий аспект положительных событий, сопровождающих внедрение его в разнообразные сферы человеческой деятельности, например, сокращение количества врачебных оплошностей, предотвращение аварий. Ученые считают, что также возможно симбиотическое соединение технологии ИИ и человеческого мозга для создания мощной умнейшей машины.
«Тот, кто станет лидером в этой сфере, будет властелином мира», - высказался недавно об искусственном интеллекте Владимир Путин . О том, что имел в виду президент и каковы шансы России в этой отрасли, рассуждает Ольга Ускова, возглавляющая кафедру инженерной кибернетики -НИТУ «МИСиС» и группу компаний, занятых разработкой и внедрением искусственного интеллекта в нашей стране.
Доведёт до суицида?
Высказывание Путина об искусственном интеллекте (ИИ) не осталось незамеченным в мире. Тут же к Президенту России присоседился американский бизнесмен и изобретатель Илон Маск . В своём «Твиттере» он написал: «Началось!» - и пояснил, что борьба за лидерство в этой сфере может привести к третьей мировой войне. Следом подтянулся Билл Гейтс . Он вообще один из главных ньюсмейкеров в этой теме. Гейтс говорит, что если бы сейчас был молод, то забил бы на всё и занимался исключительно искусственным интеллектом. Потому что это наше будущее.
Вокруг темы ИИ сформировались две «партии» - оптимистов и пессимистов. Первые уверены, что благодаря машинному интеллекту люди освободят руки и мозги для занятий более интересных, чем монотонный труд - им впредь будут заниматься роботы. А человек сможет наслаждаться жизнью, самосовершенствоваться и т. д. Тот же Билл Гейтс предлагает развивать технологии виртуальной реальности и компьютерных игр, чтобы занять в будущем часть населения Земли, которая массово лишится работы из-за ИИ.
Безработица - это действительно проблема. Допустим, есть градообразующее предприятие на 300 тыс. человек. И в какой-то момент его владельцы говорят: «Всё, ребята, мы роботизируемся, оставляем только 20 тыс. сотрудников. Остальные 280 тыс. - на выход». Что дальше? Депрессии, суициды. Это уже происходит в Китае. Я своими глазами видела там сетки для предотвращения самоубийств под окнами завода. Это значит, что, прежде чем внедрять на производстве роботов и новейшие технологии, нужно подготовить социальные программы.
«Я - робот»
Но к появлению ИИ в повседневной жизни нужно быть готовыми не только из-за грозящей безработицы. Помните сон Сары Коннор из «Терминатора»? Вышедшие из повиновения машины развязывают войну с человечеством, и всё заканчивается ядерным взрывом. Вот о какой угрозе кричит «партия» пессимистов. Мне, признаюсь, что-то похожее тоже снится. Скорость развития технологий сейчас такова, что мы не успеваем за ИИ. Его развитие опережает все прогнозы. Настолько высока концентрация изобретений в этой сфере.
Как может произойти «бунт машин»? Дело в том, что ИИ, как и ребёнок, проходит в своём развитии несколько стадий. Сначала он учится распознавать объекты (это стул, это чашка), потом познаёт смыслы (на стуле сидят, из чашки пьют) и накапливает знания. А потом в какой-то момент происходит осознание самого себя: «Вот я, а вокруг меня объекты и смыслы». Искусственный разум непременно пройдёт эту стадию, он уже к ней приблизился. И тогда в нашем распоряжении будут буквально миллисекунды, чтобы понять, кто он нам теперь - друг или враг. Чтобы остался другом, надо ставить ему ограничители, о которых ещё в 1942 году (подумать только, 75 лет назад!) писал Айзек Азимов . Он был не технологом, а писателем-фантастом, но первым сформулировал знаменитые три закона роботехники. Они касаются взаимоотношений робота с человеком и направлены на то, чтобы человеку не был причинён вред.
Угроза вот в чём. В своём самопознании ИИ может дойти до того, что станет принимать решения, которые не учёл (не заложил в него) человек. Тогда машины начнут сами определять, что для них правильно, а что нет. Человек в этой цепочке может оказаться лишним.
Системы ИИ постоянно развиваются, самообучаются. Они уже придумывают собственные языки общения. Следующий шаг: у них возникнет эмпатия (осознанное сопереживание друг другу). Да-да, один робот станет симпатизировать другому. За счёт моделирования эмоциональной коры мы можем породить такой эффект. И что тогда? Представим ситуацию. Автомобиль-беспилотник везёт пассажиров, а по встречной полосе едет другой беспилотник, причём пустой. На дороге происходит что-то экстраординарное, и бортовому компьютеру надо мгновенно принять решение - врезаться в ограду (в перебегающих дорогу пешеходов) и погубить людей либо выехать на встречку, где он столкнётся с другим беспилотником. Не исключено, что он выберет первый вариант, лишь бы не нанести ущерб своему «собрату».
Бомба ХХI века
Наверное, вы скажете: вероятно, в Америке и Японии ИИ скоро появится. А у нас и Интернет-то не везде есть, и грязь на дорогах непролазная. Нам до искусственного интеллекта, до машин-беспилотников - как до Луны.
Но его проникновение в нашу жизнь неизбежно. Производ-ство становится роботизированным. При оценке перспектив предприятия это обязательное условие - иначе туда не пойдут инвестиции. Я говорю не о каких-то механических руках на конвейере, а об интеллектуальных системах, которые сами принимают решения, допустим, о выбраковке изделий.
Элементы ИИ есть во всех офисных программах. В корпорациях их используют при приёме на работу. Финансовые системы, различные алгоритмы, заменяющие брокеров, - это тоже искусственный интеллект. Они удобнее - им не надо платить за посредничество, они быстро и объективно перерабатывают информацию, не совершают лишних телодвижений и ошибок.
В наших поликлиниках умных роботов ещё нет, но вот в больницах с их помощью уже делают операции. Они способны производить чёткие микроскопические разрезы лучше человека, и (что не менее важно!) робот не забудет внутри вашего тела тампон.
Идём дальше. Сельское хозяйство. Умные трактора уже ездят по нашим полям. Мы сами их делаем, и это уже не завтра, это сегодня. Беспилотные комбайны видят поле с помощью компьютерного зрения; роботы замеряют влажность воздуха, состояние почвы и прочие параметры; дроны находят участ-ки, куда надо внести удобрения. Сейчас всем желающим бесплатно раздают гектары на Дальнем Востоке. Почему бы не выдавать этим людям в аренду умную сельхозтехнику? В Бразилии уже так сделано. У них эта система охватывает более 40% фермерских хозяйств.
Наконец, беспилотные автомобили. Эта тема сейчас быстро развивается. Идёт революция - машина из вещества становится существом, наделённым ИИ. И мы серьёзно продвинулись в этом направлении. Наша компания стала второй в мире по разработке компьютерного зрения для автомобилей. У нас есть важное преимущество перед западными конкурентами: мы учим систему на беспилотнике видеть дорогу в реальных условиях. То есть в снег, в дождь, в темноте, с колдобинами и без разметки, которую засыпало - или её там вообще не было. Наша машина может быть помещена в любые условия. А не только на чистую, залитую солнечным светом дорогу в Калифорнии, где проводили испытания американцы.
И вот в этой отрасли у нас есть преимущество и отличная возможность вырваться в лидеры. Хотя вряд ли Путин имел в виду беспилотные авто, когда говорил об ИИ. Скорее всего, он подразумевал оборонку. Ведь войны будущего, если им предстоит быть, станут вестись без участия человека. И оставить страну в ХХI веке без искусственного интеллекта - то же самое, что оставить её в ХХ веке без атомной бомбы.
