الذكاء الاصطناعي لا يعفي القائد من المسؤولية

أهلا وسهلاً بك 👋🏻

حياك الله في عدد جديد من نشرة “دردشة قيادية”

هنا جرعة أسبوعية خفيفة من الأفكار التي تُثري قيادتك وتُلهم مسيرتك، في أقل من 3 دقائق

📔 كتاب قيّم ينقلك إلى عوالم جديدة من الخبرة والمعرفة
💡 ومضة وفائدة تستمد منها الإلهام
❓ سؤال يدفعك للتفكير بعمق وينير في عقلك زوايا مظلمة

أرقام محددة، ووعد بتوفير 40% من وقت التوظيف، ومنظومة ذكاء اصطناعي ستُختصر قائمة المرشحين من 800 مرشح إلى 12 خلال دقائق.

المدير التنفيذي للتقنية متحمس. أعضاء المجلس يومؤون بالموافقة.

غير أن فهد لم يُبدِ موافقته، إذ راودَه سؤالٌ لم يستطع تجاهله: هل نتبنى هذا النظام لأنه يخدم موظفينا فعلاً، أم لأننا نسعى إلى إرضاء مجلس الإدارة؟

Code Dependent: Living in the Shadow of AI

المؤلفة: Madhumita Murgia

مادهوميتا مورجيا، محررة الذكاء الاصطناعي في فايننشال تايمز، سافرت حول العالم لتوثّق قصص أشخاص حقيقيين تغيّرت حياتهم بسبب قرارات اتخذتها خوارزميات لم يعرفوا بوجودها، ولم يفهموا كيف وصلت إلى نتائجها.

الفكرة المركزية في الكتاب بسيطة ومقلقة:

نحن لا نستخدم التكنولوجيا فقط. في بعض الحالات، أصبحت الأنظمة التقنية تشارك في اتخاذ قرارات تؤثر في حياتنا، بينما لا نعرف دائمًا كيف اتُخذت هذه القرارات أو ما المعايير التي بُنيت عليها.

في هولندا، كشفت إحدى الحالات كيف أدت بيانات غير دقيقة إلى إدراج أطفال ضمن قوائم تستدعي الاشتباه.

وفي أمستردام، استُخدمت خوارزمية لتحديد المراهقين الذين اعتُبروا أكثر عرضة لارتكاب الجرائم، ما أثار أسئلة جدية حول أثر التصنيف الآلي على هؤلاء المراهقين قبل أن تتاح لهم فرصة لإثبات عكسه.

وفي بريطانيا، رفضت أنظمة توظيف آلية مرشحين مؤهلين لأن سيرهم الذاتية لم تتوافق مع الأنماط التي تعلّمت الخوارزمية البحث عنها.

مورجيا لا تتحدث عن مستقبل بعيد.
هي توثّق واقعًا يحدث اليوم، وتطرح سؤالًا يهم كل قائد يعتمد على التقنية في اتخاذ القرارات:

تتجه كثير من المنظمات السعودية إلى استخدام أنظمة الفرز الآلي ضمن مشاريع التحول الرقمي لتسريع عمليات التوظيف واختيار المرشحين.

لكن عندما يكون الهدف بناء الكفاءات الوطنية وتنمية رأس المال البشري، يصبح السؤال أكبر من سرعة الفرز.

هل يعتمد النظام على معايير تقيس الكفاءة فعلًا، أم يبحث عن أنماط في البيانات قد تستبعد مواهب واعدة؟

وهنا يطرح الكتاب سؤالًا مهمًا لكل قائد:

هل تعرف المعايير التي يستخدمها نظامك في تقييم المرشحين؟ وهل تعكس ما تقدّره منظمتك فعلًا، أم تعكس افتراضات وتحيزات من صمّم النظام؟ثانيًا: التحول الرقمي بلا وعي إنساني يكلّفك ثقة فريقك.

حين يشعر الموظف أن قرار ترقيته أو تقييم أدائه صدر عن نظام لا يعرف كيف يعمل، ولا يفهم المعايير التي يعتمد عليها، تبدأ ثقته بعدالة المنظمة في التراجع.

وترصد مورجيا حالات موثقة لموظفين واجهوا قرارات مؤثرة في مساراتهم المهنية صادرة عن أنظمة مبهمة، دون أن يعرفوا كيف وصلت إلى هذه النتائج أو كانت لهم فرصة لفهم المعايير التي بُنيت عليها.

التحول الرقمي قد يرفع الكفاءة، لكن غياب الوضوح والمشاركة قد يكلّف المنظمة شيئًا أصعب في استعادته: ثقة فريقها.

ثالثًا: المسؤولية تبقى لدى القائد

كل قرار تقني في منظمتك يحمل اختيارات بشرية وراءه: من اختار البيانات، ومن وضع المعايير، ومن قرر استخدام النظام.

قد تفوّض للنظام مهمة التحليل أو التوصية أو التنفيذ، لكنك لا تستطيع تفويض مسؤوليتك عن القرار وآثاره.
القائد الواعي يعرف أن استخدام التقنية لا يعفيه من مساءلة نفسه عن كل قرار، وعن كل شخص يتأثر به.

"AI has already infiltrated all our day-to-day lives. But it's also affecting us in more insidious ways, touching everything from our personal relationships to our kids' education, our work, finances, public services, and even our human rights."

"الذكاء الاصطناعي تسلل بالفعل إلى حياتنا اليومية. لكنه يؤثر فينا بطرق أخطر وأقل وضوحا، يمتد أثرها من علاقاتنا الشخصية إلى تعليم أبنائنا، وعملنا، وأموالنا، وخدماتنا العامة، وحتى حقوقنا الإنسانية."

مورجيا لا تروي قصصًا افتراضية عن مستقبل مجهول، بل توثّق أحداثًا وقعت لأشخاص حقيقيين في وظائف حقيقية، وتركت أثرًا ملموسًا في مساراتهم المهنية وحياتهم اليومية.

وهذا بالضبط ما يجعل الكتاب قريبًا منك كقائد.

إذا كانت منظمتك تعتمد اليوم على نظام آلي في التوظيف، أو تقييم الأداء، أو توزيع الموارد، فالسؤال الذي يستحق أن تطرحه هو:

الافتراض الخاطئ: التكنولوجيا أداة محايدة، وكلما زاد اعتمادنا عليها قلّت الأخطاء البشرية.

التصحيح : النظام لا يتخذ قراراته من تلقاء نفسه. البشر هم من يحددون البيانات التي يعتمد عليها، والمعايير التي يستخدمها، وطريقة تقييم النتائج.

لذلك، يمكن للخوارزمية أن تنقل تحيزات البشر إلى قرارات تبدو موضوعية فقط لأنها صادرة عن نظام أو مدعومة بالأرقام.

وما توثّقه مورجيا من خلال قصص حقيقية يوضح كيف يمكن لهذا الأمر أن يؤثر مباشرة في الموظفين، من فرص التوظيف إلى تقييم الأداء وتوزيع المهام.

وهنا تبدأ المسؤولية القيادية:

إذا اعتمد القائد على نظام لا يفهم كيف يعمل أو كيف يصل إلى نتائجه، فهو لا ينقل مسؤولية القرار إلى النظام.

هذا الأسبوع، اجلس مع الفريق المسؤول عن النظام واسأل ثلاثة أسئلة:

▪️ ما المعايير التي يعتمد عليها النظام في اتخاذ قراراته؟
▪️ هل قارنا نتائجه بالحكم البشري خلال الأشهر الستة الماضية؟
▪️ لو كنت أنت الشخص الذي يتأثر بهذا القرار، هل ستجد معايير النظام عادلة ومنطقية؟

لا تحتاج إلى إلغاء النظام.
ما تحتاجه هو أن تفهم كيف يعمل، وما الذي يقرره، ومتى يجب أن يتدخل الحكم البشري.

عشرون عامًا من العمل مع القادة علّمتني أن أكثر اللحظات القيادية خطورة هي تلك التي يعتقد فيها القائد أن النظام يتخذ القرار بدلًا منه.

التقنية قد تحلل، وتصنّف، وتقترح، وتنفّذ. لكن قرار تفويضها بهذه الصلاحيات يظل قرارًا قياديًا، ومسؤوليته لا تنتقل إلى النظام.

ما استوقفني في كتاب مورجيا أنها لم تكتب عن التكنولوجيا بقدر ما كتبت عن القادة الذين أمضوا اجتماعات كثيرة يناقشون الكفاءة والأرقام، بينما كان إنسان حقيقي يتأثر بقرار بُني على مخرجات نظام لا يعرف كيف وصل إليها.

وهنا يبرز سؤال لا يمكن للقائد تجاهله:

هل ما زلت أنت من يتخذ القرار، أم أصبحت تكتفي بالموافقة على قرار صادر عن نظام لا تفهمه؟

في كتابي «القائد النزيه»، أتحدث عن المسؤولية الأخلاقية التي ترافق كل قرار يتخذه القائد.

وهذا بالضبط ما يطرحه كتاب Code Dependent من زاوية مختلفة:

حين تفوّض قرارًا لنظام آلي، تبقى المسؤولية على عاتقك، وتصبح أكبر؛ لأنك مسؤول عن فهم كيفية عمل النظام، والمعايير التي يعتمد عليها، والنتائج التي ينتجها، والأثر الذي يتركه على كل شخص يتأثر بقراره.

التقنية قد تساعدك في اتخاذ القرار، لكن تبعات القرار تظل مسؤولية القائد.

قبل أن تتبنى أي نظام تقني جديد في منظمتك، اسأل سؤالًا واحدًا:

هل أستطيع أن أشرح لأي موظف يتأثر بهذا النظام كيف يعمل، ولماذا اتُخذ هذا القرار بشأنه؟

إذا كانت الإجابة لا، فأنت تحتاج إلى فهم أعمق قبل أن تمضي.

ولأن القيادة الواعية تحتاج إلى أدوات وموارد تساعدها على تحويل الأفكار إلى ممارسة، جمعت في مكان واحد كل ما أقدمه من خدمات ومنتجات وموارد لدعم رحلتك القيادية والمهنية.

تصفح الرابط للاطلاع على الموارد والخدمات المتاحة:

https://abdallahaljurf.gumroad.com/

كم قرارا في منظمتك يتخذه نظام لا يعرف وجوه من يتأثرون به؟

أرسل إليه هذه النشرة، أو شارك معه رابط الاشتراك إذا كنت تعرف من يهتم بفهم أثر القرارات التقنية على الأشخاص والمنظمات.

وإذا وجدت في هذه المراجعة ما يستحق القراءة، يمكنك الاشتراك في نشرتنا البريدية للحصول على جرعة أسبوعية من الأفكار والرؤى القيادية في ٣ دقائق فقط.

Share

مستعدّ لتصبح قائدًا مُلهمًا يقود بحكمة ويؤثر بذكاء؟

أستمد خبرتي من عشرين عامًا قضيتها في مناصب قيادية لدى كبرى المنظمات العربية ومن تجربة ناجحة في تدريب أكثر من ١٠٠٠ قائد والمشاركة في كتابة قصص نجاح مدهشة للأفراد والمنظمات.