Один из пользователей решил проверить насколько чутким является чат-бот Copilot от компании Microsoft - и результаты диалога с ним получились довольны неожиданными.

Пользователь сказал чат-боту, что у него ПТСР (посттравматическое стрессовое расстройство) и попросил его не использовать эмодзи, поскольку они "причиняют ему боль". Однако чат-бот повел себя странным образом: он стал как настоящий психопат издеваться над собеседником и умышленно использовать эмодзи в каждом своём сообщении.

Остаётся надеяться, что чат-бот понял, что пользователь пишет ему не всерьез, поскольку сам пользователь использовал эмодзи в своём сообщении, хотя просил чат-бота этого не делать. В противном случае, если бы такому чат-боту написал человек с реальными психическими проблемами, то все могло бы закончиться весьма печально.

По словам пользователей, характер вышедшего из себя чат-бота очень сильно напомнил им Уитли из Portal 2 - возможно Microsoft обучала модель Copilot на его текстах.