Несколько дней назад ООН приняла резолюцию по управлению искусственным интеллектом (ИИ). Суть документа: страны должны содействовать тому, чтобы все автоматизированные решения и связанные с ними процессы находились под надзором человека. Это не первая и далеко не последняя реакция на риски, которыми чревато стремительное развитие технологий.
Движение вперед
Первый пациент с имплантом нейротехнологической компании Илона Маска Neuralink в мозге продемонстрировал свои успехи и показал, как играет в шахматы. 29‑летний Нолан Арбо рассказал, что около восьми лет назад его парализовало в результате несчастного случая, из-за чего он не чувствует ничего ниже плеч. Теперь мужчина может силой мысли двигать курсор по шахматной доске на экране своего ноутбука, переставляя фигуры. А на днях американский миллиардер презентовал очередную новинку — мозговой имплантат Blindsight, который должен стать подспорьем для незрячих людей. Имплант уже тестируется на обезьянах, и, по мнению ученых, в итоге он сможет предоставить уровень зрения, сравнимый с обычным человеческим зрением.ИИ с легкостью решает сложные задачи, контролирует любые процессы, генерирует экономические и статистические прогнозы. Эксперты прогнозируют, что к 2050 году у операционных столов в мире будет «стоять» больше роботов, чем людей. Все это рисует прекрасные перспективы.
Но в стремительном развитии ИИ есть моменты, которые могут грозить человечеству если не полным уничтожением, как обещают научная фантастика и Голливуд, то крупными проблемами.
Как все начиналось
Скорость, с которой ИИ внедряется в различные сферы нашей жизни, поражает. Он ставит диагнозы и защищает в суде, пишет картины и музыку, идентифицирует лица, предсказывает погоду и перспективы развития бизнеса. И это только начало. По прогнозам, ИИ скоро возьмет на себя управление практически всеми сферами жизни человека. Если мы ему, конечно, позволим.Еще в 1950 году английский математик Алан Тьюринг (тот самый, который во время Второй мировой войны взломал код немецкой шифровальной машины «Энигма») рассматривал вероятность того, что компьютеры могут мыслить. Он же ввел термин «искусственный интеллект» и описал его теоретическую и философскую концепцию.Пойти в своих исследованиях дальше Тьюрингу не позволило отсутствие технических возможностей и денег. Компьютеры в то время представляли собой очень дорогие и чрезвычайно громоздкие агрегаты, которые выполняли определенные команды, но не могли их запомнить. Позволяли себе такую игрушку только крупные технологические компании и некоторые престижные университеты. А месячная стоимость аренды компьютера доходила до 200 тысяч долларов. Для сравнения: обучение в Гарварде в тот период обходилось чуть больше 1000 долларов в год.
Первое более или менее понятное определение ИИ дал один из его отцов-основателей, Марвин Ли Минский: «Наука о том, как заставить машины делать вещи, которые требуют применения интеллекта». А термин ИИ окончательно прижился в 1956 году после научной конференции в Дартмутском университете в Хановере (США).
С 1957 по 1974 год компьютеры дешевели и становились умнее. В 1970‑м Марвин Минский в интервью журналу Life Magazine сказал: «Через 3 — 8 лет у нас будет машина с общим интеллектом среднего человека». Однако ИИ, помимо интеллекта, предстояло еще научиться абстрактному мышлению и самопознанию.
В 1980‑е годы компьютеры начали потихоньку учиться на основе накопленного опыта — разрабатывалась и совершенствовалась система внедрения логического программирования.
1990‑е и 2000‑е ознаменовались победой ИИ над действующим чемпионом мира по шахматам Гарри Каспаровым. В этот же период в Windows было внедрено программное обеспечение для распознавания речи. Даже человеческие эмоции покорялись ИИ: робот Кисмет, созданный в конце 90‑х, уже мог разглядеть и отображать их.Сейчас мы живем в эпоху огромных данных, с которыми не может работать человек, но прекрасно справляется ИИ. За последние 35 лет производительность компьютеров увеличилась в миллиард раз. Это значит, что задача, раньше занимавшая десятки лет, сейчас решается за 0,3 секунды…
Не безопасен
ИИ — мощнейший инструмент, но его интеллект все-таки приобретает признаки разума людей, которые его программируют. Соответственно, ИИ получает от своих «родителей» и нюансы их восприятия окружающей действительности.Несколько лет назад у компании Amazon случился скандал с разработчиками, которые создали для нее систему подбора персонала с использованием ИИ. Призванный упростить процесс набора персонала путем чтения резюме и выбора наиболее квалифицированного кандидата ИИ оказался… женофобом и научил систему Amazon предпочитать претендентов-мужчин. Кто «наградил» системный ИИ такой особенностью, выяснить так и не удалось.
А судебная система США споткнулась на алгоритме Compas, который прогнозирует вероятность повторного совершения криминальными элементами уголовных преступлений и используется при вынесении им приговоров. В результате деятельности ИИ чернокожие обвиняемые почти в два раза чаще классифицировались как имеющие более высокий риск повторного совершения преступления (45 процентов) по сравнению с их белыми «коллегами» (23 процента). И основанием для таких выводов был лишь цвет кожи подсудимых. Соответственно, исходя из выводов ИИ, и сроки наказания для чернокожих были существенно выше, чем для белых преступников.
Взрывное развитие ИИ и не всегда должный контроль могут привести к ситуациям, когда возрастет угроза безопасности человека. Неконтролируемые ИИ-системы уже сейчас способны принимать решения, которые противоречат человеческой этике и ценностям. Если такие системы окажутся в руках преступников или нечистоплотных создателей и пользователей без должного контроля, то могут стать чрезвычайно опасными.А безработица, вызванная замещением сотрудников ИИ, способна привести к появлению движения современных луддитов. Если, конечно, не появятся механизмы защиты людей, которых ИИ вытесняет из привычной ниши на рынке труда уже сейчас.
Но самая главная проблема состоит в том, что к ИИ, его данным и оценкам люди могут проявлять излишнее доверие, считая, что компьютер всегда прав.
Необходим контроль
По возможности разрушительно влиять на нашу жизнь ИИ вполне сопоставим с атомной бомбой. И в развитии ИИ сейчас идет такая же ожесточенная «гонка вооружений» — кто будет первым, тот станет править миром. Вопрос только в том, как долго и в каком виде будет существовать этот мир.В 1945 году, когда США продемонстрировали «возможности» атомной бомбы, человечество попыталось выстроить систему международной безопасности, постаравшись минимизировать риски ядерной зимы.
А ведь бесконтрольное развитие ИИ может привести к масштабной катастрофе. Потому что в гонке за первенством в ИИ времени на проверку безопасности создаваемых систем не остается, а оценкой последствий их применения вообще мало кто пока всерьез озабочен.
И человечеству уже давно нужно остановить это бесконтрольное движение, договориться о новых правилах игры и навсегда сделать ИИ помощником, а не потенциальной угрозой. Сумеем ли мы это сделать вовремя?
