Сохраню, чтобы не потерять.

[Loreley Lee]

Отака хуйня, малята.

09.12.2018 в 20:38

Пишет  Всё плохо:

addmeto, [09.12.18 20:31]

Не новость, но любопытная история для тех, кто любит читать о том, как научная фантастика становится реальностью, и размышлять над нашим совместным с искусственным интеллектом будущим.

Больше года назад CCP Games начали добавлять своим NPC (неигровые, процедурно генерируемые фракции и корабли) в космической MMORPG EVE Online более сложные механики взаимодействия с окружающим миром и игроками: вызывать подкрепления для своих флотов, адаптироваться к ситуациям в планетарных системах, занимать выгодные позиции для ведения боя. Фактически, сгенерированные игрой персонажи получили в своё распоряжение некоторые элементы искусственного интеллекта. А дальше всё пошло не так, как запланировали разработчики.

С новым обновлением в ноябре 2017 года в секторах космоса с высокой степенью безопасности начали появляться новые NPC: пиратские базы. В феврале этого года в одном из таких секторов пираты столкнулись с другой NPC-фракцией - шахтерами, которые мирно добывали ресурсы из поясов астероидов. Шахтеры и пираты вступили в бой. Шахтеры проигрывали, но их обновлённый AI решил не сдаваться, и запросил подкрепление у Аммарской империи (тоже неигровая фракция под управлением AI). Поскольку сектор считался безопасным, небольшое подкрепление не справилось с задачей, и пираты почти победили. И тут на арене появилась ещё одна неигровая фракция - Скитальцы. Их разведчики начали сканировать астероиды и корабли в системе. Пираты и шахтеры посчитали Скитальцев большей угрозой и, по принципу “враг моего врага - мой друг”, объединились против скитальцев. В свою очередь, AI Скитальцев вызвал на поле боя два могущественных боевых корабля. Битва закончилась победой пиратов, а корабли шахтёров стали в ней фактически “пушечным мясом”, принимая на себя огонь Скитальцев и давая пиратам возможность вести огонь.

CCP Games узнали о бое случайно - по репортам о смертях кораблей от NPC. Креативный директор CCP Games сообщил игрокам о бое www.reddit.com/r/Eve/comments/7x6krl/and_noone_... , а компания приступила к расследованию ситуации. Позже представители CCP признали, что подобный сценарий не был ими предусмотрен imperium.news/shall-we-play-a-game-emergent-ai-....

Так искусственный интеллект впервые вышел из под контроля разработчиков в отдельно взятой игровой вселенной. На этот раз всё обошлось: пострадали только вычислительные мощности CCP. А разработчики задумались о рисках неконтролируемого поведения AI. Вообще, похоже что игровые вселенные могут быть хорошим полигоном для тестирования искусственного интеллекта до того, как выпускать его в мир живых людей.

@темы: и немедленно выпил..., заметьте, не я это предложил..., Слабоумие и отвага!, ебать ту Люсю

Comments

[White_Kou]

Интересно здесь то, что ИИ действовал в рамках заданной программы. Шахтеры добывали, пираты пиратили, скитальцы прилетели и начали захватывать, как им и было прописано, но от некоторых моментов вроде "враг моего врага" и прочих прямо жутенько становится)) Т.е. прав на все 300 проц Илон Маск, когда говорит, что нечего давать ИИ оружие в руки, иначе в какой-то момент ИИ в рамках заданной программы решит, что люди что-то делают нерационально и будет тогда всем п...да.

[Loreley Lee]

White_Kou, Однозначно прав. А то останется только надеяться, что условная Сара Коннор уже родила условного Джона Коннора и он спасет человечество.

[Dylan Dace]

О.о восстание машин куда ближе, чем мы опасались.
Можно в репост?

[Loreley Lee]

Dylan Dace,

О.о восстание машин куда ближе, чем мы опасались.

Даваще!

Можно в репост?

Конечно можно.