В настоящее время роботы везде: собирают автомобили, летают в космос, пылесосят квартиры, по запросу человека ищут в интернете информацию. Однако может ли настать тот день, когда робот сочтет, что он лучше знает, чем ему заниматься?
В 1984-м на экраны вышел известный фильм Джеймса Кэмерона «Терминатор». В его в сюжете заложено опасение, что искусственный интеллект (ИИ), созданный человеком, однажды выйдет из-под контроля и уничтожит человечество.
Возможно, в реальности ситуация обстоит не настолько драматично, однако год назад десятки предпринимателей, инвесторов и известных ученых подписали открытое письмо в котором призвали уделять больше внимания безопасности и общественной полезности разработок в области ИИ. В их числе - астрофизик Стивен Хокинг и основатель компаний Tesla и SpaceX Илон Маск.
Собеседники издания «Ведомости» тоже полагают, что искусственный интеллект несет угрозы, пропорциональные его пользе. Как отмечает издание, в минувшем году на технологии ИИ пришлось порядка пяти процентов мировых венчурных инвестиций, которые составили 47,2 миллиарда долларов, посчитал партнер KPMG Еркожа Акылбек, тогда как в 2013-м доля такого рода инвестиций составляла всего два процента. В технологии ИИ, как правило, вкладываются IT-романтики, которые верят, что он сумеет заменить труд человека, отмечает Акылбек. Обычно этим людям за 30, они склонны к риску и ранее уже вкладывали в IT-компании.
Сфера ИИ еще довольно молода. Она успешно привлекает инвестиции и на венчурном рынке, и от компаний ранга Shell или Goldman Sachs, отмечает Алексей Соловьев, управляющий партнер венчурного фонда Prostor Capital.
Пока ожидания от искусственного интеллекта гораздо выше реальных доходов, подчеркивает Павел Черкашин, управляющий партнер фонда GVA Vestor.in. В настоящее время самые доходные отрасли – реклама и финансы, популярности набирают приложения в здравоохранении и страховании, где тоже нужны поиск неочевидных закономерностей и анализ больших данных.
Уже сейчас компьютерные системы могли бы достаточно эффективно управлять корпорациями, привлекая человека лишь для решения нестандартной задачи, для которой еще нет шаблона. Согласно прогнозам Черкашина, как раз в финсфере, где скрытые знания дают большую отдачу, раньше иных появится аналог Skynet. Такого рода финансовый гений работал бы вообще без ошибок, проводил без бюрократии миллиардные сделки и приносил доходность. И лишь с появлением у него таких же роботов-конкурентов у людей могли бы начаться проблемы, полагает Черкашин. Однако опасна не технология, а то, для чего ее применяют, убежден он.
Согласно мнению некоторых экспертов, подлинный ИИ будет последним изобретением человечества, отмечает Альберт Ефимов, руководитель робототехнического центра «Сколково». И хотя он с этим не согласен, однако подтверждает, что искусственный интеллект несет определенные риски – исчезновение целого ряда профессий, разобщение людей, а возможно даже потерю естественных навыков человека. Ефимов полагает, что для человечества точка невозврата будет пройдена, когда какая-нибудь страна даст всезнающему ИИ право на насилие. Ростки этого уже имеют место, считает он. В качестве примера он приводит админштрафы за парковку и превышение скорости.
Одна из проблем – это ответственность за действия ИИ, указывает Акылбек. Кто будет виноват, если самоуправляемая машина, к примеру, навредит пешеходу, – владелец или производитель? Роботы анализируют финотчетность, однако достаточно ли этого для принятия решения, а также кто будет нести ответственность за ошибки?
Бояться нужно людей.
В действительности человечество боится технического прогресса, полагает замдиректора ABBYY Татьяна Даниэлян, которая занимается ИИ. Согласно ее словам, ИИ – это только быстрая обработка огромного объема информации, на что не способен человек. Страх объясняется опасениями, связанными с потерей рабочих мест, убеждена Даниэлян. Однако есть отрасли, в которых применение ИИ неизбежно: роботы уже давно делают операции на глазах.
Также у людей есть страх, что в какой-нибудь момент они не будут отличать человека от робота и тот им навредит, поскольку его мотивы не человеческие и непонятные, отмечает Даниэлян. Это предрассудок, отмечает она, поскольку человек всегда отличит робота от настоящего человека. Еще одним страхом человечества Даниэлян назвала «восстание машин». Такой страх связан в первую очередь с недостатком информации. Она успокаивает, что бояться совершенно нечего. Людей отличает творческое мышление, то есть свойство принимать непрогнозируемое и необъяснимое решение в различных ситуациях. У робота никогда не будет творческого мышления, ведь он в любом случае обращается к загруженной базе знаний за указаниями, а что в эту загрузить, решает именно человек.
Робот написал роман.
В прошлом месяце корпорация Microsoft запустила в Twitter чат-бота. Это программа, имитирующая личность и стиль общения девятнадцатилетней девушки. Чат-бот (ему дали имя Тэй) имел способность к самообучению, но на практике ИИ показал скорее отсутствие интеллекта: за одни сутки «девушка» превратилась в неонациста и расиста. Разработчики Microsoft пояснили это недоразумение тем, что пользователи злоупотребили командой «Повторяй после меня», привив Тэй таким образом неполиткорректные взгляды. В результате робота решили отключить.
Однако в большинстве случаев электронному разуму все-таки есть чем гордиться. К примеру, этой весной в конкурсе им. Хоси Синъити (японский писатель-фантаст), участвовало порядка 1,5 тысячи художественных произведений. Причем одиннадцать из них, как оказалось, написал компьютер. В финал вышло произведение, созданное программой, которую разработали ученые из Университета будущего в Хакодате.
Автор: Екатерина Кравец
