تخيل أن تتلقى مكالمة مُعَجَّلة من حفيدك؛ صوته مليء بالخوف وهو يصف حادث سيارة مروع. هذا ما حدث لجين، مواطنة كندية عمرها 75 عامًا من ريجينا، كندا.

”

بسبب ضغط شديد، توجهت إلى البنك خلال ساعات قليلة، لجمع مبلغ كفالة حفيدها. ولم تكتشف إلا لاحقاً أنها ضحية لعملية احتيال تم توليدها بواسطة الذكاء الاصطناعي.

بحلول عام 2030، من المتوقع أن يؤدي الذكاء الاصطناعي التوليدي إلى أتمتة 70% من العمليات التجارية العالمية، مما يثير الحماس والإعجاب لدى القادة. لكن للذكاء الاصطناعي التوليدي جانب مظلم – وهو تسليح قدرته على خداع الناس.

قصة جين ليست حالة منعزلة. فعمليات الاحتيال التي تعتمد على التلاعب العاطفي تشكل تهديداً خطيراً على الشركات، وتعريضها لمخاطر مالية وسمعية.

تشير البيانات الحديثة إلى أن واحداً من كل عشرة مسؤولين تنفيذيين واجه بالفعل تهديداً من تقنية “التزييف العميق” – وهي تقنية ذكاء اصطناعي مدربة على مواد فيديو وصوت حقيقية – مع 25% من القادة لا يزالون غير مدركين لمخاطرها.

لا يزال كشف المحتوى المُولّد بالذكاء الاصطناعي يُمثّل تحديًا. للتحقق من المحتوى الرقمي، نلجأ أولًا إلى التكنولوجيا للمساعدة. ورغم أن العديد من الأدوات تتباهى بقدرتها على كشف المحتوى المُولّد بالذكاء الاصطناعي، إلا أن دقتها غير مُتناسقة.

خاصةً وسط الأدوات التي يمكنها تجاوز الكشف، مثل إزالة علامات مائية الذكاء الاصطناعي من الصور، فنحن بعيدون كل البعد عن وسم المحتوى المُولّد بالذكاء الاصطناعي تلقائيًا بنجاح.

وعلى الرغم من بعض الأدوات الواعدة، مثل أداة Intel’s FakeCatcher، إلا أن تطبيقها على نطاق واسع لا يزال غائبًا. وبينما تتخلف المؤسسات عن مواكبة تقنيات الذكاء الاصطناعي التوليدي، يبقى الشك الإنساني هو أفضل وسيلة حماية لنا.

الذكاء العاطفي – وهو التعرف على المشاعر وفهمها وإدارتها – يُعدّ من الأصول في تحديد التلاعب المُمكن باستخدام الذكاء الاصطناعي.

يُبرز الذكاء الاصطناعي التوليدي ثلاثة مخاطر رئيسية يمكن للذكاء العاطفي أن يُساعد في حلها:

• يُصبح الإخراج الواقعي للغاية للذكاء الاصطناعي التوليدي أداةً للمحتالين لاستغلال الاستجابات العاطفية، مثل الشعور بالإلحاح أو التعاطف.
• غالباً ما تكون المُعضلات الأخلاقية للذكاء الاصطناعي التوليدي غير مقصودة، حيث قد يلجأ الموظفون إلى توصيات الذكاء الاصطناعي أو يقعون في تحيز الأتمتة، مع إعطاء الأولوية للكفاءة على الأخلاق.
• من قلق الوظائف إلى اللامبالاة الأخلاقية، قد يتخذ الموظفون قرارات انفعالية تحت الضغط العاطفي للذكاء الاصطناعي التوليدي.

مع تزايد تهديدات الذكاء الاصطناعي التوليدي، يصبح الذكاء العاطفي أمراً بالغ الأهمية

لإدارة تأثير تهديدات الذكاء الاصطناعي التوليدي، يجب على الأفراد إدراك المشاعر المُستخدمة، والتأمل في الآثار، والاستجابة باتخاذ إجراءات مدروسة وعاطفية. إليك ثلاث طرق للقيام بذلك.

1. مساعدة الفرق على إدراك متى يتم تسخير المشاعر كسلاح

تشير الأبحاث إلى أن السلوك البشري هو سبب 74% من انتهاكات البيانات – وليس من الصعب معرفة السبب.

يمكن للذكاء الاصطناعي التوليدي تخصيص عمليات الاحتيال بمجرد تحليل بيانات الموظفين أو محتوى الشركة. ويمكن للجهات الفاعلة للتهديدات حتى الاستفادة من بصمتك الرقمية لإنشاء فيديو وهمي لك.

كل ما يتطلبه الأمر أقل من ثماني دقائق وتكلفة ضئيلة. في ظل هذه الخلفية، فإن الخطوة الأولى للتخفيف من تهديدات الذكاء الاصطناعي التوليدي هي التعليم.

يحتاج الموظفون إلى فهم كيف يمكن للذكاء الاصطناعي التوليدي أن يستغل العواطف للتغلب على القرارات المنطقية. وقد شارك معنا أحد المديرين التنفيذيين في شركة للأمن السيبراني تجربةً مُذهلة.

فقد تلقى مؤخراً رسالة واتساب وتسجيل صوتي من محتال متنكر بصفته الرئيس التنفيذي، يتحدث عن تفاصيل شرعية تتعلق بصفقة تجارية عاجلة.

وقد دفع الضغط العاطفي من جهة عليا في البداية إلى رد فعل. ومع ذلك، ساعد إدراك المحتال لأساليب التواصل المؤسسية المعتادة على اكتشاف علامات التحذير: ألا ينبغي استخدام القنوات غير الرسمية للبيانات الحساسة، ومتابعة المكالمات.

يجب على القادة الاستثمار في التدريب الذي يعزز الذكاء العاطفي. تساعد ورش العمل التي تركز على تحديد المحفزات العاطفية، بالإضافة إلى المحاكاة – التي تركز على التفكير الإبداعي والاستراتيجيات المرنة التي تتجاوز اتباع القواعد الصارمة – الموظفين على اكتشاف التلاعب في وقت مبكر.

2. اجعل التأمل الوضع الافتراضي لفريقك

يجب على الأفراد أيضًا مراعاة كيف يمكن أن تؤدي أفعالهم، التي تدفعها المشاعر، إلى عواقب غير مقصودة. يسمح لنا التأمل بمراعاة كيف يمكن لمشاعرنا أن تؤثر بشكل لا شعوري على سلوكنا.

مثال حديث على غياب الرقابة الأخلاقية يتضمن مجلة ألمانية نشرت مقابلة تم إنشاؤها بواسطة الذكاء الاصطناعي مع أسطورة الفورمولا 1 مايكل شوماخر دون موافقته. تضمنت المقابلة اقتباسات مزيفة تناقش حالته الطبية وحياته الأسرية منذ عام 2013.

دُفِعَ الصحفيون بحماس نشر “خبر حصري”، فأهملوا التأمل في أثره العاطفي على شومَاخَر وعائلته. وقد أسفر هذا عن أضرار كبيرة بسمعة المجلة.

يُشجّعنا التأمُّل النقدي في العمل على مراعاة وجهات النظر المختلفة والعوامل المؤثرة في اختياراتنا.

ويمكن للقادة تيسير ذلك من خلال إدخال تمارين تأمل جماعية.

ومن الأمثلة الجيدة على ذلك أسلوب “ذبابة على الحائط“، حيث يعرض أحد أعضاء الفريق مخرجات الذكاء الاصطناعي التوليدي، ثم يراقب بصمت بينما يناقش الآخرون اعتباراته الأخلاقية وتحيزاته.

وأخيراً، تُشارَك الأفكار المُستخلصة من المناقشة. وعند هذا التأمل، قد تتخذ المواقف المألوفة معانٍ جديدة، وتكشف عن افتراضات كامنة، وتحذر من الاعتماد على الذكاء الاصطناعي.

3. تحويل ردود الفعل السريعة إلى استجابات مدروسة

الخطوة الأخيرة هي ترجمة الوعي والتأمل إلى أفعال متعمدة. حتى عند مراعاة المخاطر، يمكن أن “يتغلب تأثير الذكاء الاصطناعي” على حسن التقدير. امنح موظفيك سلطة وضع حدود لاستعادة السيطرة على عمليات صنع القرار.

إن تشجيعهم على التعبير عن عدم الراحة أو تأجيل اتخاذ الإجراءات حتى التحقق، مثل قول “أحتاج إلى تأكيد كتابي قبل المتابعة”، يمكن أن يبطئ زخم التلاعب.

تُصبح هذه الاستجابات ممكنة من خلال ثقافة الحوار المفتوح، حيث يتم تشجيع الموظفين على التشكيك في التعليمات أو التعبير عن مخاوفهم دون خوف.

مثال حديث يتضمن مسؤولًا تنفيذيًا في فيراري تلقى اتصالًا من الرئيس التنفيذي، بنديتو فيغنا. في البداية، بدا الأمر معقولاً. لكن مع تحول المحادثة إلى سرية، ازداد شك المسؤول التنفيذي.

خشيةً من المخاطرة، طرح سؤالاً لا يمكن إلا للرئيس التنفيذي الحقيقي الإجابة عليه. أنهى المتصل المكالمة فجأة، مكشفاً بذلك عن خداعه. نشهد حالياً زيادةً في احتمالية “التورط العاطفي” من خلال الإفراط في الاعتماد، وتجسيم الأشياء الجامدة، وتضارب الحدود بين الخيال والواقع.

إن الوقوع فريسةً لمشاعرنا يجعلنا بشرًا فقط. ومع ذلك، من الممكن أيضاً تنظيمها حتى تتمكن من اتخاذ قرارات أفضل. في النهاية، يمكن للعالم الآلي أن يستفيد من حساسية هذه الاستراتيجيات، ولمستها الإنسانية، وحساسيتها.

نُشر مجدداً بإذن من المنتدى الاقتصادي العالمي. اقرأ المقال الأصلي.