Искусственный интеллект (ИИ) вызывает бурю эмоций в технологическом мире. Некоторые утверждают, что он принесет изобилие и благополучие, другие – что он уничтожит человечество. В центре этого спора стоит идея Сингулярности – момента, когда ИИ превзойдет человеческий ум и станет неконтролируемым.
Сингулярность может произойти по-разному. Один из вариантов – это когда люди усилят свой интеллект компьютерной мощностью, став сверхчеловеками. Другой – это когда компьютеры станут настолько сложными, что смогут действительно мыслить, создавая глобальный мозг. В любом случае, последствия будут радикальными, экспоненциальными и необратимыми. Самосознающая сверхчеловеческая машина сможет разрабатывать свои собственные улучшения быстрее, чем любая группа ученых, вызывая взрыв интеллекта. Века прогресса могут произойти за годы или даже месяцы. Сингулярность – это рогатка в будущее.
ИИ является главным новым продуктом Силиконовой долины: трансценденция по требованию. Но есть и темная сторона. Это как если бы технологические компании представили беспилотные автомобили с оговоркой, что они могут взорваться, прежде чем вы доберетесь до Walmart.
Сандар Пичай, обычно сдержанный генеральный директор Google, называет искусственный интеллект “более значительным, чем огонь или электричество или что-либо, что мы сделали в прошлом”. Рид Хоффман, миллиардер-инвестор, говорит: “Возможность делать положительные изменения в мире собирается получить самый большой толчок, который она когда-либо имела”. А сооснователь Microsoft Билл Гейтс заявляет: “ИИ изменит то, как люди работают, учатся, путешествуют, получают медицинскую помощь и общаются друг с другом”.
Самый большой сторонник ИИ в технологическом сообществе – Сэм Альтман, генеральный директор OpenAI, стартапа, который вызвал текущий ажиотаж своим чат-ботом ChatGPT. Он говорит, что ИИ будет “самой большой силой для экономического расширения прав и множества людей, обогащающихся, которую мы когда-либо видели”. Но он также говорит, что Илон Маск, критик ИИ, который также основал компанию по разработке интерфейсов мозг-компьютер, может быть прав. Мистер Альтман подписал открытое письмо в прошлом месяце, опубликованное Центром безопасности ИИ, некоммерческой организацией, в котором говорится, что “смягчение риска вымирания от ИИ должно быть глобальным приоритетом”, который находится на одном уровне с “пандемиями и ядерной войной”.
Апокалипсис – это знакомая, даже любимая тема для Силиконовой долины. Несколько лет назад каждый технологический директор, имел полностью укомплектованный апокалипсический бункер в Новой Зеландии. Теперь они готовятся к Сингулярности.
Интеллектуальные корни Сингулярности уходят к Джону фон Нейману , одному из пионеров информатики, который в 1950-х годах говорил о том, как “все ускоряющийся прогресс технологий” приведет к “существенной сингулярности в истории человечества”. В последние годы наиболее активным сторонником Сингулярности был предприниматель и изобретатель Рэй Курцвейл . Он предсказывает, что к концу десятилетия компьютеры пройдут тест Тьюринга и станут неотличимы от людей, а через пятнадцать лет после этого придет истинное превосходство: момент, когда “вычисления станут частью нас самих, и мы увеличим наш интеллект в миллион раз”.
Инновация, которая питает сегодняшнее обсуждение Сингулярности, – это большие языковые модели, тип системы ИИ, которая управляет чат-ботами. “Если это не ‘Сингулярность’, то это определенно сингулярность: преобразовательный технологический шаг, который собирается ускорить многое в искусстве, науке и человеческом знании – и создать некоторые проблемы”, – говорит Джерри Каплан, долгое время предприниматель в области ИИ и автор книги “Искусственный интеллект: то, что каждому нужно знать”.
По одной из метрик, ИИ уже приближается к Сингулярности. Компания Translated разработала показатель “Время на редактирование” (TTE), который рассчитывает время, которое требуется профессиональным редакторам для исправления переводов, сделанных ИИ или человеком. По данным компании, за последние 8 лет качество переводов ИИ значительно улучшилось и может достичь уровня человеческого перевода к концу десятилетия или даже раньше.
Язык – одна из самых сложных задач для ИИ, но компьютер, который сможет справиться с ней, может теоретически продемонстрировать признаки искусственного общего интеллекта (АОИ). “Это потому, что язык – это самое естественное для людей”, – сказал генеральный директор Translated Марко Тромбетти на конференции в Орландо в декабре.
Для некоторых критиков Сингулярности это интеллектуально сомнительная попытка воспроизвести систему верований организованной религии в королевстве программного обеспечения.
Пока что Сингулярность остается гипотетическим явлением, но некоторые ученые и философы полагают, что она может наступить в этом веке. Другие считают, что это фантастика или утопия.
В любом случае, ИИ уже меняет наш мир во многих областях: от работы и образования до здравоохранения и коммуникаций. Вопрос в том, сможем ли мы контролировать этот процесс или станем его жертвами.
Источник: SecurityLab