Появление технологий, обладающих сознанием и опережающих людей по уровню развития, может стать катастрофой для всего человечества.
Восстание машин пока остается исключительно темой научно-фантастических боевиков навроде «Максимального ускорения» и «Терминатора». Вместе с тем, угроза новой глобальной пандемии тоже еще недавно многим казалась не более чем фантастикой. Риск существует.
Человечество слишком одержимо разработкой умных машин. Их функции перестали ограничиваться сугубо служебными. Компьютеры уже обыграли гроссмейстеров в шахматы и в еще более сложную игру го. Машины штампуют подобия произведений искусства. Что дальше?
Далек ли тот час, когда компьютеры научатся не только думать по алгоритму, а еще и чувствовать – по крайней мере, считать, что чувствуют?
И будут ли они тогда благодарны эксплуатирующим их хозяевам-людям либо захотят избавиться от балласта?
Законы роботехники, призванные запрограммировать любую машину как безвредную для людей, отброшены в сторону.
Те же военные дроны прекрасно справляются с уничтожением живых целей. А в США насмерть сбил женщину беспилотный автомобиль такси. Видимо, не специально – а виновато несовершенство разработки. Однако, как видим, роботы-убийцы – реальность уже сегодня.
Не первый год обсуждается опасность технологической сингулярности.
Таким термином обозначается гипотеза, согласно которой в один не слишком прекрасный момент искусственный интеллект, роботы и прочая техника станут настолько умными, что оставят позади людей и полностью выйдут из-под контроля. Темпы развития информационных технологий таковы, что опасный рубеж может быть пройден в ближайшие десятилетия.
Остается надеяться, что у тех, кто разрабатывает высокие технологии и лоббирует данные разработки, хватит рассудка вовремя остановиться.
Важно, чтобы гаджеты по-прежнему были бы помощниками, делающими нашу жизнь легче и комфортнее, а не оказывались заменителями людей, которые отберут наши рабочие места, заменят культуру суррогатами, лишат нас радости живого общения.
Остановиться на разумном симбиозе людей и машин, при котором технологии повышают качество жизни и продлевают ее продолжительность, но не приобретают антропоидные черты и собственное самосознание - вот, что нужно цивилизации. Чтобы машины не становились друзьями и врагами, а оставались инструментами. И, насколько бы продвинутым ни стал бы искусственный интеллект, принятие решений должно остаться за людьми. На то мы и люди.
Ринат Камалиев
