شركة ركبت نظام مراقبة ذكاء اصطناعي، يدعي أنه قادر على تحليل التعبيرات الدقيقة ونبرة الصوت، للتنبؤ بميل الموظفين للاستقالة.

في الشهر الماضي، وضع النظام علامة على موظفة الاستقبال بأنها "عالية الخطورة". والسبب هو أنها تتنهد أكثر من خمس عشرة مرة يوميًا في مكان عملها.
تم استدعاؤها للمقابلة مع قسم الموارد البشرية. كان ثلاثة أشخاص يجلسون أمامها في المكتب، وعلى الطاولة كانت هناك مخططات "مخطط تقلبات المزاج" مطبوعة. نظرت إليها لفترة طويلة وقالت كلمة واحدة: أنا أتنهد لأن والدتي في وحدة العناية المركزة، وليس لأنها تريد الاستقالة. أخذ قسم الموارد البشرية تلك المخططات وأعادها، ولم يلاحقها مرة أخرى.
لكن النظام لم يتوقف. بدأ في وضع علامات على المزيد من الأشخاص. تم وضع علامة على الموظف القديم زانغ من قسم البحث والتطوير، لأنه لم يضحك في غرفة الاجتماعات لمدة ثلاثة أيام متتالية. وتم وضع علامة على الموظفة الصغيرة ليو من قسم الإدارة، لأنها لم تشارك في أنشطة الفريق بعد العمل، واعتبرها النظام "منعزلة اجتماعيًا". وتم وضع علامة على الموظفة وان من قسم المالية، لأنها كانت ترد على رسائل المدير في مجموعة الشركة بسرعة متوسطة من خمسة ثوانٍ في الشهر الماضي، إلى متوسط أحد عشر ثانية هذا الشهر. وكل شخص يتم وضع علامة عليه، يظهر في قائمة المقابلات مع قسم الموارد البشرية في اليوم التالي.
حتى الأسبوع الماضي، أظهر النظام إنذارًا عالي المستوى.
ليس الموظف. هو المدير التنفيذي.
حيث قرر النظام أنه "خطير جدًا، ويوصى بالتدخل الفوري". وكتب تقرير التحليل أنه مؤخرًا كان يتجول بشكل متكرر في غرفة الاجتماعات، وأوقات الغداء غير منتظمة، وتضييق حدقة العين بشكل غير طبيعي، وكشف الصوت عن "غضب مكبوت". لم يجرِ قسم الموارد البشرية مقابلة معه، وأرسل التقرير مباشرة إلى مجلس الإدارة. وفي اليوم التالي، دعا المدير التنفيذي جميع الموظفين إلى قاعة الاجتماعات الكبرى، وقف على المنصة، وعرض التقرير في المقدمة، وقال كلمة جعلتنا جميعًا نُصمت: هذا الذكاء الاصطناعي لا يعرف أن تجولي في غرفة الاجتماعات كان بسبب أن زوجتي طلبت الطلاق الأسبوع الماضي. كما أنه لا يعرف أن تضييق حدقة عيني كان لأنني رأيتكم جميعًا تخافون منه هذا الصباح.
وأعلن على الفور إلغاء هذا المشروع وإيقاف النظام. بعد الاجتماع، عدت إلى مكتبي، ووجدت مكان الموظفة فارغًا. كانت على مكتبها تلك المخططات التي طبعها النظام، وإلى جانبها دفتر تقويم، محاطًا بمواعيد زيارة وحدة العناية المركزة. أخذت الدفتر معها، ولم تأخذ تلك المخططات. كانت أعلى سطر في الملاحظات التلقائية التي أنشأها النظام. صنف تنهداتها الخمسة عشرة ضمن "حزن غير معروف".
وفي ذلك المساء، وقفنا جميعًا في ذلك المكتب الفارغ، وتركنا حبة حلوى على الطاولة. سأل بائع المتجر في الطابق السفلي عن اليوم. قلت لا شيء، هناك زميلة لم تحضر اليوم، لكنها قد تأتي لاحقًا، أو قد لا تأتي أبدًا. لم يلحَ في السؤال. فقط، عندما انتهينا من شراء جميع الحلويات من ذلك المتجر، أعطانا خصمًا بنسبة 20% بشكل هادئ.