Авторы The Talos Principle жестко прошлись по современному ИИ и его влиянию на рынок труда

Создатели The Talos Principle поделились довольно скептическим взглядом на развитие современных технологий искусственного интеллекта. Разработчики признают, что машинное обучение способно приносить пользу, однако считают, что сейчас вокруг него слишком много шума, а компании нередко используют технологию прежде всего ради сокращения затрат.

В разговоре с Game Informer нарративный дизайнер Йонас Кирацес отметил, что у машинного обучения действительно есть перспективные направления применения. Однако нынешний подход бизнеса его не слишком впечатляет: вместо решения сложных и действительно полезных задач ИИ зачастую становится инструментом для уменьшения количества сотрудников и увеличения прибыли.

Разработчики не считают современные модели настоящим интеллектом

Отдельно Йонас Кирацес усомнился в самом определении современных языковых моделей как искусственного интеллекта. По его мнению, у подобных систем нет сознания, а до универсального интеллекта, о котором периодически заявляют представители технологической индустрии, им еще очень далеко.

Разработчик также считает, что некоторые особенно смелые прогнозы относительно будущего ИИ могут быть связаны с финансовыми интересами компаний. Громкие заявления о возможностях технологии помогают привлекать внимание и инвестиции, хотя реальные возможности существующих систем могут быть гораздо скромнее.

Еще более критично высказалась Верена Кирацес. Она предложила воспринимать современные языковые модели скорее как очень продвинутую разновидность автодополнения текста, а не как полноценный разум.

При этом разработчик использовала гораздо более резкую формулировку, назвав нынешние ИИ «машиной плагиата, которая заставляет людей терять работу».

Главный вопрос — не в самой технологии

Несмотря на резкую критику, авторы The Talos Principle не призывают полностью отказаться от ИИ. Проблему они видят прежде всего в том, какие задачи компании поручают алгоритмам и зачем это делают.

Если технология позволяет автоматизировать определенные процессы, бизнес естественным образом заинтересован в снижении расходов. Но в результате сотрудники могут потерять работу, причем не потому, что появилась какая-то принципиально новая форма интеллекта, а потому, что компании решили заменить человека более дешевым инструментом.

По мнению Йонаса Кирацеса, в таком случае речь уже идет о трудовых отношениях и защите работников. Сам факт существования технологии не обязательно является проблемой — гораздо важнее то, как именно работодатели решают ею пользоваться.

Для авторов The Talos Principle тема особенно близка

Позиция разработчиков выглядит особенно интересно на фоне самой серии The Talos Principle. Игры Croteam регулярно заставляют игроков размышлять о сознании, искусственном разуме, человеческой природе и границах технологий.

Поэтому авторы проекта подошли к теме ИИ не просто как представители игровой индустрии, столкнувшиеся с новой технологией. Их игры уже давно задают вопросы о том, что вообще можно считать разумом и чем искусственное мышление отличается от человеческого.

В итоге разработчики занимают достаточно осторожную позицию: они признают пользу машинного обучения, но не считают нынешние языковые модели полноценным разумом и выступают против идеи использовать разговоры об ИИ как универсальное оправдание массовых сокращений.