Искусственный интеллект способен обучиться сотрудничеству
Компьютерные программы в первый раз смогли обучиться взаимодействовать между собой в играх, где отличных показателей возможно достигнут лишь при согласованных действиях участников. Это намного более важное достижение для ИИ, нежели овладеть навыком в играх с нулевой суммой (в то время, когда выигрыш достается за счет убытков соперников) либо с двоичным финалом, таких как шашки и шахматы. Статья с описанием результатов выложена на сервер препринтов arXiv.org.
Эксперты по машинному интеллекту уделяли меньше внимания кооперативным играм, в которых игроки должны оптимизировать собственную стратегию для максимизации выигрыша, даже в том случае, если личную пользу возможно расширить, «предавая» вторых. К таким играм относится, к примеру, хорошая задача арестанта. Два игрока смогут взять мягкое наказание (условно, год колонии), в случае если будут отрицать вину.
Но в случае если один из игроков предаст другого, то первого не накажут, а второй сядет на три года. В случае если же оба будут доносить друг на друга, то обоим «влепят двушечку». В случае если играться один раунд, то логично предать, однако при неоднократном повторении удачнее сотрудничать.
Джейкоб Крэндалл из американского Университета Бригама Янга и его сотрудники решили разобраться, смогут ли компьютеры обучиться играться в такие игры. Они сравнили результаты двух людей, двух смешанных команд и программ в нескольких кооперативных играх. Было протестировано 25 методов машинного обучения, но добиться сотрудничества не удалось.
Тогда авторы решили добавить возможность общаться игрокам фразами «Я меняю тактику», «Принимаю твое предложение», «Ты предал меня» и без того потом — всего 19 предложений. Программам, в отличие от человека, приходилось на ходу соотносить эти их значения и фразы в течение игры.
В этом случае один из 25 методов называющиеся S# показал впечатляющие результаты: всего за пара ходов он обучился кооперироваться с напарником в незнакомой игре. Наряду с этим к концу теста команда из двух неестественных интеллектов сотрудничала практически в 100% случаев, тогда как для людей данный показатель составил около 60%.
«Методы машинного обучения обучились быть преданными», — подытожил Крэндалл.
