Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову
екоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.
Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.
Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.
Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов.
Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и подобные бактерии могут начать поедать пластик, например, в деталях самолетов. Что делать в этом случае?
Может, принимать компенсирующие меры? Создавать бактерии-защитники, которые будут противодействовать бактериям, поедающим пластик, и смазывать первыми детали самолетов?
Отличие ИИ будущего в том, что он может оказаться умнее бактерий и умнее самого человека.
Пока количество нейронов в современных компьютерных системах не больше, чем у пчелы. Но уже сейчас мы начинаем «приручать» искусственный интеллект: все больше компаний в мире используют интеллектуальные технологии, чтобы принимать важные для бизнеса решения и выявлять возможные риски.
Этот процесс называется «цифровая трансформация». Буквально через месяц в моей новой компании мы представим технологию Yva.ai, задача которой — стать электронным мозгом компании. Представьте, что вы руководитель и у вас появилась магическая суперсила — предсказывать проблемы в компании до того, как они случились. Или представьте, что у вас появилась суперсила обучать начинающих сотрудников работать с эффективностью лучших. Это возможно, если вы подключите к корпоративной коммуникации «специально сконструированную нейросеть», которая анализирует активность сотрудников, выявляет самое ценное и делится рекомендациями. Совсем скоро ни одну из сфер нашей жизни невозможно будет представить без искусственного интеллекта.
У многих футуристов опасения в отношении искусственного интеллекта связаны с тезисом, что если нейронные сети будут включать в себя, условно говоря, больше ста миллиардов нейронов (то есть больше, чем у человека), они могут стать умнее человека и будут создавать новые модели ИИ успешнее, чем человек. Это определит «точку сингулярности», момент, когда человечество перестанет контролировать развитие ИИ.
Уже сейчас говорят о том, что рано или поздно появится интерфейс между человеческим мозгом и искусственной нейросетью, позволяющий управлять технологией.
Решить эту проблему можно двумя способами. Первый — создавать нейросети, которые будут автоматически следить, обнаруживать и купировать потенциальные враждебные действия других ИИ. Второй способ — подключать человека к этой сети. Уже сейчас говорят о том, что рано или поздно появится интерфейс между человеческим мозгом и искусственной нейросетью, позволяющий управлять технологией.
Я встречался с представителями компании, которая считает, что они ушли в этом направлении гораздо дальше Илона Маска. По правде сказать, ее эксперты пока очень консервативны в своих прогнозах. Они утверждают, что объем данных, который обрабатывается человеческим мозгом на площади в один квадратный сантиметр коры, уже находится на пороге возможностей современных коммуникационных технологий и превышает несколько терабайт в секунду. Этот объем даже передать не так просто, не то что обработать. При этом для целей чтения и записи данных с точностью до отдельного нейрона им приходится вскрывать черепную коробку человека, а это опасная процедура. Сегодня их пациенты идут на это в попытке победить серьезные заболевания.
Но если в ближайшие 20-30 лет человечество придумает способ читать и записывать в мозг данные с точностью до отдельных нейронов в объемах петабайт (тысяча терабайт) в секунду без хирургического вмешательства, и мы сможем подключить к нейросети свой мозг, то человек будет способен не только управлять искусственным интеллектом, но и действовать с ним совместно, принимая новые вызовы технологического прогресса.
