Четыре сценария и восемь книг о роботах и компьютерах
Пока простые интернет-пользователи экспериментировали с ChatGPT и спорили, насколько этично по отношению к художникам использовать изображения от Midjourney, лидеры IT-индустрии выступили с пугающим заявлением. Илон Маск, Стив Возняк и еще более 1000 экспертов призвали приостановить дальнейшее обучение искусственного интеллекта хотя бы на шесть месяцев. За это время должны быть разработаны алгоритмы безопасности, способные защитить людей от возможного восстания машин. И Тремя законами робототехники тут явно не обойтись.
В своей статье в журнале Time специалист по созданию дружественного ИИ Элиезер Юдковский, известный также как автор романа «Гарри Поттер и методы рационального мышления», подчеркнул, что ученые и исследователи могут даже сами не заметить, когда точка невозврата будет пройдена, а нейросети выйдут из-под контроля, и призвал отложить дальнейшие исследования на неопределенный срок.
«Вероятный результат противостояния человечества со сверхчеловеческим разумом — полное поражение. В числе подходящих метафор: „10-летний ребенок пытается играть в шахматы против Stockfish 15“, „XI-й век борется с XXI-м веком“ и „Австралопитек пытается бороться с Homo sapiens“.
Чтобы визуализировать враждебный сверхчеловеческий ИИ, не представляйте себе безжизненного умного мыслителя, живущего в Интернете и рассылающего злонамеренные электронные письма. Вообразите целую инопланетную цивилизацию, мыслящую со скоростью, в миллионы раз превышающую человеческую, и изначально ограниченную компьютерами, — в мире существ, которые, с ее точки зрения, очень глупы и очень медлительны», — написал Юдковский.
Маск и другие призывают остановить все разработки: от частных компаний и корпораций до правительственных лабораторий по всему миру, в том числе в США и Китае. В последние годы между этими двумя державами идет соревнование, сопоставимое с космической гонкой середины XX века. По мнению футуролога Эми Уэбб, именно у Китая есть все шансы на победу.
«Огромное население Китая — 1,4 млрд человек — означает, что в его распоряжении находится самый богатый и, возможно, самый важный природный ресурс эпохи ИИ: данные о людях. Чтобы добиться высокой точности от алгоритма распознавания образов, требуются огромные объемы данных, и поэтому китайские системы распознавания лиц, например Megvil или SenseTime, так привлекательны для инвесторов.
Все данные, которые китайские граждане генерируют, когда звонят друг другу, делают покупки онлайн или публикуют фото в социальных сетях, помогают Baidu, Alibaba и Tencent создавать лучшие в своем классе системы ИИ. Важное преимущество Китая — отсутствие ограничений, связанных с неприкосновенностью частной жизни и безопасностью, которые отчасти могут тормозить прогресс в Соединенных Штатах», — пишет Эми Уэбб в книге «Алгоритм судного дня».
Что произойдет, если к экспертам так и не прислушаются? Предлагаем четыре сценария из фантастических книг и нон-фикшена.
Уже сегодня машины здорово помогают человеку в разных областях жизни. Это не только автоматизация производств, но и роботы-курьеры, первые машины без водителя, робот-хирург Da Vinci, компьютерные системы, которые проводят комплексный анализ в юридической сфере или выдают максимально точное заключение на основе медицинских анализов и обследований. Оптимисты уверены, что лишенный эмоций и амбиций и не страдающий от выгорания и депрессии искусственный интеллект в будущем сведет на нет человеческий фактор во многих областях и даже поможет решить проблему массового голода. А человечество с его помощью выйдет на новую ступень развития.
По мнению авторов книги «Что делать, когда машины начнут делать все», новые возможности вычислительных систем и нейросетей не повод для тревоги. Это просто очередная индустриальная революция, к которой первыми адаптируются те, кто учится взаимодействовать с компьютерами и применять новые технологии в своих повседневных задачах. А что касается рабочих мест, то грамотных специалистов машины не заменят, но станут их верными помощниками.
«Наделенная искусственным интеллектом система „Оценки и обучения в познавательных пространствах“ (Assessment and Lеarning in Knowledge Spaces) использует адаптивные вопросы, позволяющие быстро и точно определить, что именно знает и чего не знает ученик по программе курса. Далее ALEKS объясняет ученику темы, к восприятию которых он или она готовы в большей степени. По мере прохождения курса ALEKS проводит переоценку, обеспечивая надежное усвоение материала. Все это выливается в более гибкое обучение один на один со студентом и обеспечивает ученику заметный рост успеваемости. Что касается учителя, то ему ALEKS помогает преодолеть рутинную — и, давайте признаем, скучную — часть работы и по-настоящему сосредоточиться на работе с учениками», — приводят пример авторы.
Их книга — подробный разбор действующих систем и рекомендации, как эффективно применять их в повседневной работе уже сейчас.
Классический цикл Айзека Азимова вышел в свет в 1950 году, но до сих пор первым приходит на ум, когда речь заходит о роботах и искусственном интеллекте. Его главная героиня — робопсихолог Сьюзен Келвин, которая становится для читателей проводником в мир будущего.
В начале 1980-х планета пережила Третью мировую войну, ученые изобрели гипердвигатель и позитронный мозг и начали активное освоение Солнечной системы, которое возможно только при функционировании роботов. А чтобы они не навредили своим создателям, были придуманы Три закона робототехники:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Каждый рассказ строится вокруг проблем, которые возникают при взаимодействии человека и робота, причем в некоторых случаях эти проблемы вызваны именно тремя безупречными законами. И тем не менее совместное будущее машин и человека у Айзека Азимова получается довольно благополучным.
В каком-то смысле этот сценарий реализуется уже сейчас, поскольку алгоритмы соцсетей диктуют правила игры блогерам и инфлюенсерам, на которых ориентируются миллионы простых пользователей. А в Китае действует система социального кредита. Этот своего рода рейтинг благонадежности граждан и организаций высчитывается автоматически по целому ряду параметров. Пока что интеллектуальные системы стоят на службе правительств и корпораций. Но в каком направлении будут развиваться эти тренды, когда нейросети перестанут подчиняться своим создателям, остается только фантазировать.
На примере Amazon, Google, Apple и Facebook* автор разбирает, как мечты о свободе и свободном выражении собственного мнения обернулись появлением навязанных привычек и стандартизацией мышления. Интернет, говорит Франклин Фоер, меняет человеческое сознание уже сейчас. Например, алгоритмы Facebook* и Instagram* управляют нашими эмоциями, подкидывая в ленту посты определенного содержания.
Книга «Без своего мнения» интересна еще и тем, что разбирает то, как идеалистические мечты и стремления людей, которые искренне хотят изменить мир к лучшему, оборачиваются проблемой для человечества. А это именно то, о чем сейчас тревожатся Илон Маск и Стив Возняк.
В сатирической антиутопии Марка Уве-Клинга Германия будущего превратилась в страну победившего потребления, где алгоритмы решают за людей, что им покупать, за кого голосовать и кому симпатизировать. Чем лучше человек встроен в систему, тем более надежным считается. Петер Безработный занимается утилизацией машин с искусственным интеллектом и вполне доволен своей жизнью. Но в очередной доставке он получает товар, который ему не нужен. Решение вернуть его ставит под сомнение безупречность алгоритмов, управляющих людьми.
Всего одна мелочь, но дальше события этой ироничной истории начинают двигаться в непредсказуемом направлении. А во второй части и вовсе доходят до последней стадии абсурда. Но самое удивительное, что люди, по сути лишенные выбора и свободы, не особо переживают по этому поводу и чувствуют себя счастливыми в своих информационных пузырях.
Как будет выглядеть конец света, если мир захватит искусственный интеллект, не раз показывали в фантастических фильмах. На самом деле роботы с оружием, как в «Терминаторе», — лишь один из возможных вариантов, а реальное истребление человечества может произойти по-разному.
За громким названием «Алгоритм судного дня» прячется подробный рассказ об истории вычислительных машин, современных разработках, связанных с искусственным интеллектом, а также жутковатый и реалистичный прогноз до 2069 года. Вы узнаете о программе, способной генерировать и обучать дочерние нейросети, и разобщенных племенах ИИ из Китая и Северной Америки, каждое из которых развивается по своим правилам, а также представите, что будет, когда заработает цифровая кастовая система.
Нон-фикшн генерального директора и старшего аналитика ведущей международной организации по прогнозированию и стратегическому планированию Future Today читается как технотриллер. Тем более что она предлагает сразу несколько вариантов будущего, некоторые из которых заканчиваются истреблением человечества.
Человечество как вид уничтожено пятнадцать лет назад, мир поделен между двумя Едиными Мировыми Разумами, которые продолжают вести между собой войну за ресурсы. Роботу Неженке удалось сохранить независимость от главенствующих систем. Она, как и другие изгои, разыскивает на гигантском кладбище вышедших из строя машин, которое называется Море ржавчины, целые запчасти. Их она использует для торговли с другими одиночками. Но деталей мало, и в какой-то момент Неженка сталкивается с выбором: расстаться с собственной свободой или жизнью.
В этом постапокалиптическом романе люди мелькают лишь в воспоминаниях искусственного интеллекта, который анализирует события прошлого и пытается понять, в какой момент человечество подписало себе смертный приговор.
Если ради интереса спросить у ChatGPT о его интересах и предпочтениях, он ответит, что нейросети лишены эмоций и понятие «нравится — не нравится» ему недоступно. Но что, если с дальнейшим развитием у искусственного интеллекта появятся свои мысли и чувства? Что он будет делать тогда? Возможно, как и человек, впадать в депрессию (привет, Дуглас Адамс), увиливать от работы и много шутить. Такой вариант развития событий оказывается не самым плохим.
К научно-космической экспедиции, которая отправляется к одной из далеких планет, приставлен охранник-андроид Киллербот, запрограммированный на защиту экипажа и убийство врагов. Этот искусственный интеллект втайне от хозяев взломал свой модуль контроля и обрел независимость от людей. Теперь он абсолютно свободен, чтобы... нет, не убивать, а спокойно смотреть сериалы и кино.
Вот только просчитанная до мелочей экспедиция идет не по плану из-за чьего-то злого умысла. Возвращение грозит Киллерботу разоблачением. Чтобы сохранить свою тайну и заодно спасти людей, он начинает собственное расследование.
Марта Уэллс создала ироничный и легкий цикл на стыке фантастики и детектива с обаятельным искусственным интеллектом. А его мотивация разобраться с работой, чтобы поскорее вернуться к любимому шоу, оказывается понятной и убедительной для современного читателя.
Инженер и большой поклонник «Звездного пути» Боб Йоханссон мечтал своими глазами увидеть далекое будущее. Для этого он заключил договор с криокомпанией, чтобы та сохранила его мозг после смерти. Вот только за 117 лет, что его разум находился в заморозке, эта компания обанкротилась, а ее «клиенты» были проданы на аукционе. Бобу с его инженерным прошлым повезло: его оцифрованную личность, не имеющую тела, загружают в межзвездный корабль. И впереди у него — космос, невероятные приключения и неожиданные проблемы.
«„Вселенная Боба“ предлагает достаточно необычный взгляд на тему искусственного интеллекта. Дело не в том, что именно ИИ выступает тут протагонистом — это как раз не редкость, — а в том, что некогда тот был обычным человеком. Автор весьма любопытно показывает, как человек, чье сознание было оцифровано, перерождается уже в новом качестве, свыкается с новой ролью, какие проблемы перед ним встают и какие открываются возможности. А еще Боб ставит перед собой философские вопросы, главный из которых — „та же я личность, что был при жизни?“», — рассказывает Дмитрий Злотницкий, бренд-менеджер fanzon.
С этой остроумной британской фантастикой получится на пару вечеров уйти с головой в оригинальную историю, сбавив градус тревоги по поводу будущего человечества.
*Материнская компания Meta признана экстремистской и запрещена в РФ.