Форма жизни № 4. Как остаться человеком в эпоху расцвета искусственного интеллекта

Нельзя набирать в компанию лояльных, а спрашивать как с умных – так не бывает.

Однажды на крупной международной конференции в приватной беседе во время кофе-брейка, я спросил генерала, фамилию и родину которого он попросил в книге не упоминать: «Вы понимаете последствия внедрения ИИ в системы автоматической идентификации и поражения целей для человечества в целом?» Он ответил: «Евгений, у меня нет задачи защищать человечество в целом, у меня есть задача защищать граждан страны Х. О человечестве пусть думает ООН, если им так хочется. Но это не моя работа».

даже обычные автомобили потенциально крайне опасны: они смогли удаленно получить доступ к бортовому компьютеру новенького Jeep Cherokee и довести до истерики журналиста журнала Wired Энди Гринберга, который был за рулем и пытался сохранить самообладание в ситуации, когда его машину могли в любой момент отправить в кювет. Дырявая защита многих дроновквадрокоптеров позволяет перехватывать управление и угонять их, игровые приставки и стриминговые сервисы ломали не раз, Apple и Microsoft рапортуют о новых устраненных уязвимостях практически каждый день… Хакеры не раз взламывали электрокардиостимуляторы для сердечников, демонстрируя возможность убийства их пользователя. Бывший вице-президент США Дик Чейни признался, что отключил беспроводной интерфейс своего кардиостимулятора еще в 2007 году, когда понял, что злоумышленники теоретически могут удаленно взломать его и убить. Подоб

Федор Шеберстов, занимающийся нестандартными методами образования – обучением на дому, персонализированным обучением и другими инновационными методиками, легко смог меня убедить в ущербности современного образования простым фактом: курс математики 3-го класса рассчитан на 100 часов классного времени и еще 100 часов самостоятельной работы. Так вот, 50 % детей укладываются в этот норматив, 5 % нуждаются более чем в 100 + 100 часах, 20 % способно пройти курс за 50 + 50 часов, еще 20 % гарантированно уложатся в 10 + 10 часов, а оставшиеся 5 % способны усвоить весь годичный курс математики за 2 часа. Потому что могут.

По поведенческой психологии в играх и геймификации процессов написаны тысячи научных работ. Особо хочется выделить Джейн Макгонигал, профессионального геймпсихолога и дизайнера игровой механики, суперженщину и мать, которая очень здорово описала принципы геймификации в книге «SuperBetter» 39 (рекомендую к прочтению!). Она провела в собственной семье эксперимент, в результате которого дети, раньше разбрасывавшие вещи и никогда не делавшие ничего по дому, начали наводить порядок с таким рвением и тщательностью, что бабушка чуть не сошла с ума.

роботы-фермеры продолжат выполнять свои функции ровно до того момента, пока AGI (или уже ASI) не примет решение о том, что делать с человечеством и стоит ли его кормить. И решение будет принято.

Но все это меркнет на фоне нашумевшего случая со взломом и выводом из строя центрифуг для обогащения урана в иранской ядерной программе при помощи кибероружия Stuxnet, обнаруженного в июне 2010-го. Вот уж где стало страшно – потенциал масштабной экологической катастрофы оказался в руках группы людей, удаленно нажимающих кнопки на клавиатуре, – никаких ракет или ударов с авианосцев, код работал тихо и незаметно.

человеческий мозг может успешно работать на салатиках и каберне-совиньон – представляете, насколько мы эффективнее машин?

древнейших профессий – путаны и разведчики – никогда не будут полностью заменены на роботов и ИИ. Но, как и во всех других сферах, часть рабочих мест андроиды заберут.

– просто на каждом витке эволюции выигрывает более сложная система (или имеющая потенциал для дальнейшего усложнения). Разум, постигая мир, создает новое знание, которого вчера еще не было. Но оно неизбежно усложняет картину мира.