معهد ماساتشوستس للتكنولوجيا: لا داعي للذعر من فرضية نهاية العالم بسبب الذكاء الاصطناعي؛ القدرة على التحقق تعتبر موردًا نادرًا

المصدر: بودكاست بانكلس؛ تنظيم: فيليكس، بان نيوز

يستضيف كريستيان كاتاليني، الاقتصادي في معهد ماساتشوستس للتكنولوجيا (MIT)، في برنامج رايان وديفيد، ويقدم قراءة متعمقة لورقته البحثية الجديدة “بعض الاقتصاديات البسيطة للذكاء الاصطناعي العام”. تشير الورقة إلى أن الموارد النادرة في الذكاء الاصطناعي لم تعد الذكاء، بل التحقق: أي قدرة البشر على فحص، حكم، وتأكيد صحة مخرجات الذكاء الاصطناعي.

شرح كريستيان بالتفصيل مسارين من التكاليف يعيدان تشكيل مختلف الصناعات (تكلفة الأتمتة وتكلفة التحقق)، موضحًا لماذا تختفي الوظائف المبتدئة أولاً، ولماذا يطور حتى الخبراء المتميزون خلفائهم بشكل غير واعي (ما يسمى “لعنة المبرمج”). كما رسم ثلاثة أدوار يمكن الاحتفاظ بها خلال التحول: أعضاء مجلس الإدارة، صناع المعنى، وضامنو المسؤولية.

قام بان نيوز بتنظيم ملخص الحوار.

المقدم: أعتقد أن الكثير من المستمعين، مثلي، يشعرون بالهلع من الذكاء الاصطناعي. لماذا يعتقد الناس أنهم قلقون من الذكاء الاصطناعي؟ هل مخاوفهم مبررة؟

كريستيان: نحن جميعًا نشعر بذلك. نحن في فترة تغير سريعة وتحولية، وكلما اقتربت من الكود، ربما شهدت هذا التسارع بشكل أسرع، خاصة في الأشهر القليلة الماضية، حيث أصبح النمو الأسي حقيقي جدًا. هذه التقنية أنجزت أشياء كان يعتقد أنها تتطلب وقتًا أطول بكثير، وهذا الشعور يواجهه الجميع. لكن أعتقد أن “نظريات نهاية العالم” خاطئة، وغالبًا ما يقللون من إمكانيات هذه الأدوات. نعم، سيكون هناك فترة انتقالية صعبة جدًا، وسرعة تحول الوظائف غير مسبوقة في التاريخ. ومع ذلك، إذا استثمرت في استغلال أكبر ميزات هذه التقنية، فسيكون الأمر في النهاية مفيدًا، رغم التقلبات الشديدة على الطريق. تعتبر الاقتصاديات أن العمل مجموعة من المهام، وبعضها يمكن أن يُؤتمت، وهذه أخبار جيدة، لكن المهم هو كيف تعيد تدريب نفسك وتظل في الطليعة.

المقدم: من تعتقد أنه سيتأثر أولاً؟

كريستيان: سؤال ممتاز، ولدي العديد من الأفكار حوله. أولاً، عندما أقول إن الأشخاص الأقرب إلى الكود هم أول من يتأثر، أعني أنهم أول من سيشعر بقوة هذه التقنية. كما يكشف “مفارقة جيفنيس”، عندما تصبح شيء فعالًا، نستهلكه أكثر، مثل كتابة المزيد من البرمجيات. أعتقد أن البرمجة ستتجزأ مثل العديد من المهن الأخرى، ونسميها في الورقة “الدورة الابتدائية المختفية”. إذا كنت مبتدئًا، ولم تكتسب “معرفة ضمنية” تميز بين منتج ممتاز ومتوسط، فسيتمكن الذكاء الاصطناعي من استبدالك جيدًا في جميع المجالات.

الآن، يمكن لأي شخص أن يحصل بسهولة على مسوق جيد، أو مبرمج مبتدئ، أو محامٍ يمكنه التعامل مع معظم الحالات، فقط اطلب من محامٍ خبير في النهاية أن يراجع ويؤكد. من ناحية أخرى، حتى الخبراء المتميزين، عند إدخال الذكاء الاصطناعي، يخلقون عن غير قصد علامات، ومعلومات، وآثار رقمية، وفي النهاية، ستؤدي هذه إلى أتمتة عملهم. المختبرات الرائدة توظف أفضل المواهب في التمويل وغيرها، وتستخدمهم لإنشاء معايير تقييم، ودمج المعرفة التخصصية في النماذج الكبيرة. لذلك، أعتقد أن كل وظيفة فردية ليست آمنة بنسبة 100%، حتى الأعمال اليدوية المحدودة بقدرة الروبوتات، ستشهد قفزات هائلة في نماذج المكافآت خلال السنوات القليلة القادمة. كل شيء يحدث أمام الشاشة يمكن تتبعه، نسخه، وتعلمه. بالنسبة لكل مهنة، المهم هو التفكير: إذا أوكلت أكبر قدر ممكن من العمل للذكاء الاصطناعي، أين يمكنني أن أضيف قيمة؟

هناك الكثير من “الطمأنينة الذاتية” حول “الذوق” و"الحكم". فهي غامضة جدًا. لذلك، في الورقة، نقول: لا يوجد شيء اسمه ذوق أو حكم جيد وسيئ، هناك فقط فرق بين “القابل للقياس” و"غير القابل للقياس". إذا تم قياس شيء، يمكن للآلة نسخه. إذا بقي شيء مدمجًا في وزن دماغك، مثل مصمم متميز جمع عشرات الآلاف من الساعات من الخبرة، وقرر ما يُنشر وما لا يُنشر، فهذا هو ما نسميه “التحقق”. كل التحقق هو تلك الخطوة الأخيرة: الوكيل الذكي يخلق المنتج، وأنت كصانع قرار، تقيم ما إذا كان يفي بمعايير السوق. مع تحسن البيانات، ستتم أتمتة الأمور تلقائيًا؛ لكن في المجالات غير المعروفة، أو التي لا توجد فيها بيانات، ستظل هذه المرحلة في السنوات القادمة من اختصاص البشر.

المقدم: هذه رؤية عميقة جدًا. لكني أفكر أيضًا، أن أتمتة المهندسين لعملهم أمر طبيعي جدًا. هل تتشابه الصدمات التي تتعرض لها كل صناعة؟

كريستيان: لدينا أدلة كافية على أن التغييرات ستكون متفاوتة. فكر في الأمر هكذا: هل هذه الوظيفة مجرد “تغليف” لشيء غير ضروري اجتماعيًا؟ على سبيل المثال، العمل الاستشاري العام، إذا كان أساسًا يعيد تغليف وتلخيص المعلومات المتاحة على نطاق واسع، فهناك خطر كبير. لكن إذا كانت تتطلب معرفة نادرة في مجال معين، أو ضرورية لأسباب سياسية، فهذه ستبقى. اسأل نفسك: هل يحقق هذا المهنة أرباحها لأنها تحل مشكلة معقدة، أم لأنها تواجه عوائق بشرية؟

المقدم: ماذا يعني التحقق بالضبط؟ أجد صعوبة في تقسيم يومي إلى مهام معرفية وأخرى للتحقق.

كريستيان: الوكيل تعلم وقيس كل شيء من الإنترنت والكتب، لأنها أرخص وأكثر قابلية للتوسع، وسيحل محل الجزء القابل للقياس. لكنه لا يعرف بعد الأشياء التي في دماغك بشكل فريد، مثل وزن الشبكة العصبية الخاص بك، وهو ما اكتسبته من خبرتك ومعاناتك، مما يجعلك خبيرًا متميزًا. على سبيل المثال، مشاركو العملات المشفرة الأوائل، كثير منهم من الأرجنتين وفنزويلا، عايشوا التضخم المفرط، وردود أفعالهم تجاه الأصول مختلفة تمامًا. هذا التقييم الداخلي الفريد لا يزال ميزة هائلة.

ما هو التحقق؟ هو الفرق بين تقييمك الشخصي للعالم والمعايير التي يمتلكها الوكيل. مثل محرر متميز يعرف بالضبط أي مقال يثير الاهتمام، أو مدير تكنولوجيا معلومات يعرف، عند مواجهة كميات هائلة من الشيفرة التي يولدها الذكاء الاصطناعي، أي الأجزاء الحاسمة التي يجب فحصها يدويًا، والتي لا يمكن للآلة قياسها بعد.

المقدم: هل يمكن أن أقول، إذا رأيت على X فيديو عن قصف إسرائيل بالصواريخ، واكتشفت أنه من إنتاج الذكاء الاصطناعي، وأستخدم عقلي لاكتشاف المشكلة، وأعيد الطلب لإنشاء فيديو أفضل، فهذه قدرتي على التحقق؟

كريستيان: هذا مثال جيد جدًا. والأكثر من ذلك، قد نصل قريبًا إلى عالم يكون فيه هذا الفيديو غير قابل للتمييز عن الواقع بالنسبة لمعظم الناس. الخطوة التالية قد تكون أن خبيرًا عسكريًا يكتشف أن حركة النيران غير طبيعية. ثم، حتى الخبراء العسكريون قد لا يستطيعون التمييز بسهولة، ويحتاجون إلى الذكاء الاصطناعي لتحليل المبادئ الفيزيائية وإجراء محاكاة. في النهاية، قد يصبح من المستحيل التمييز، وعندها سنضطر إلى الاعتماد على بنية تحتية تعتمد على التشفير للتحقق من الصحة. في المجال الطبي أيضًا، الحالات الحدية ستحتاج في النهاية إلى أطباء أشعة ذوي خبرة 20 سنة، ومعرفة خاصة بحالة المريض، لرفض حكم الذكاء الاصطناعي. هذه هي الطبقة الأخيرة من “الفلترة”. عندما نفعل ذلك، نحرر الكثير من الوقت. وهذا جيد، لأنه يمكننا إنجاز المزيد بأقل موارد. ستنخفض تكلفة الأشياء الثمينة، وسيستهلك المجتمع المزيد منها. أعتقد أن هذا خبر جيد.

المقدم: لكن في مثالكم، هو الآن يتحقق، لكن قريبًا لن يستطيع التحقق، وسيحتاج إلى القائد العسكري، وفي النهاية، لن يستطيع القائد التحقق أيضًا، ويضطر إلى الاعتماد على الذكاء الاصطناعي. أليس هذا دليلًا على أن “التحقق” كان ذا قيمة في البداية، لكنه سيتحول أيضًا إلى أتمتة بواسطة الذكاء الاصطناعي، وبالتالي، فإن “التحقق” نفسه غير آمن أيضًا؟

كريستيان: بالضبط. نسمي ذلك “لعنة المبرمج” في ورقتنا. التحقق، كتصرف عقلاني جدًا، يدفع في حد ذاته تطور التقنية المتقدمة وتحويل الخبرة إلى بيانات. لا يمكننا التوقف، لأن جميع المحامين والمهنيين يحاولون استخدام الذكاء الاصطناعي. التحقق هو جبهة تتقلص باستمرار.

المقدم: حتى مجال التحقق النهائي يتقلص أكثر، فمتى يمكننا أن نطمئن؟

كريستيان: أولاً، بعض الأمور غير قابلة للقياس بطبيعتها، مثل “لعبة المكانة” أو الأمور التي يضفي عليها الإنسان معنى. هذه المجالات لن تُحتل بواسطة الآلات، لأنها تتعلق بالتوافق والاتفاق بين البشر. العملات المشفرة، إلى حد ما، أيضًا كذلك، المهم هو توافق البشر على قيمة الأشياء. مع تقلص مجالات العمل القابلة للقياس، سنخترع طرقًا لجعل الأعمال غير القابلة للقياس ذات معنى.

المقدم: هل يمكن أن يكون بناء موقع ويب في 10 ثوانٍ، أو كتابة تغريدة جذابة للبشر، هو آخر مهمة للتحقق تبقى؟

كريستيان: جذب الانتباه، أو إلقاء نكتة جديدة حقًا، هو عمل إبداعي جدًا، ويهدف إلى كسر أشياء لم تُقاس من قبل. لقد تطورنا عبر ملايين السنين لمواجهة بيئات غير معروفة. الأشخاص الذين يعملون في هذا المجال يُطلق عليهم “صانعو المعنى”. مثلًا، في الفن والثقافة، ما هو جيد يعتمد على التوافق البشري. وحتى عند استخدام الوكيل الذكي، عليك أن تحدد “النية”.

المقدم: مع انخفاض تكاليف الأتمتة بشكل أسي، كيف ستكون تكاليف “التحقق”؟ هل ستظل دائمًا مقيدة بالبيولوجيا البشرية؟

كريستيان: حاليًا، نعم، فهي مقيدة بيولوجيًا. لذلك، أصدرت العديد من الشركات كودًا من الذكاء الاصطناعي، لكن لا يوجد عدد كافٍ من الأشخاص لقراءته والتحقق منه، وهذا يحمل مخاطر حتمية.

المقدم: هل يمكن أن نستخدم الذكاء الاصطناعي للتحقق من الذكاء الاصطناعي؟

كريستيان: إذا كان الذكاء الاصطناعي يمكنه التحقق بشكل صحيح، فهذه المرحلة يمكن أتمتتها. بعد استخدام كل أدوات التحقق من الذكاء الاصطناعي، ستتبقى الأشياء التي لا يمكن للذكاء الاصطناعي التحقق منها، وهذه ستكون عنق الزجاجة للتدخل البشري.

المقدم: إذا كانت عملية التحقق موردًا نادرًا يتراجع باستمرار، فكيف نعمل ونستثمر في هذا الاقتصاد؟

كريستيان: أنشأنا مصفوفة 2x2 تعتمد على “تكلفة الأتمتة” و"تكلفة التحقق". في الزاوية السفلى اليسرى، يوجد العاملون الذين تم استبدالهم: الأتمتة سهلة، والتحقق سهل، وأنت لا تريد أن تكون هنا. الأربعة مربعات الأخرى هي:

صانعو المعنى: الأتمتة صعبة، والتحقق صعب. يركزون على التوافق الاجتماعي، ولعبة المكانة، والربط بين البشر. مثل صانعي الذوق في الموضة، أو مؤثري التشفير على تويتر، يصنعون السرد ويشجعون الاهتمام.

ضامن المسؤولية: الأتمتة سهلة، والتحقق صعب. هم خبراء في مجالاتهم، مثل المحامين المتميزين، الأطباء، أو المستثمرين. يستخدمون الذكاء الاصطناعي على نطاق واسع، لكنهم يتحملون المسؤولية ويؤكدون صحة الحالات الحدية النهائية.

الأعضاء التنفيذيون: الأتمتة صعبة، والتحقق سهل. جوهرهم هو “النية”. يتعاملون مع “المجهول المجهول”، ويقودون الوكيل مثل رواد الأعمال، يحددون الاتجاه، ويشعرون بالانحراف، ويقومون بتعديل المسار باستمرار.

المقدم: ماذا عن الشباب حديثي التخرج الذين يرغبون في دخول سوق العمل؟ من جهة، هناك وظائف مبتدئة بلا قيمة، ومن جهة أخرى، خبرة تتطلب عشر سنوات، وهناك فجوة كبيرة بينهما. الآن، يمكن للذكاء الاصطناعي أن يقوم بالأعمال الابتدائية، فكيف ينمو الشباب ليصلوا إلى الطرف الآخر؟

كريستيان: الفجوة موجودة، لكن الخبر السار هو أنه يمكنك تقليل مدة التعلم. يمكنك تخطي خطوات التدريب التقليدية. الآن، يمكن لمهندس مبتدئ باستخدام أدوات أن يؤدي عمل فريق كامل سابقًا. قد يخطئ في البداية، لكنه كمتدرب يمكنه أن يطرح أسئلة جديدة على الطرق التقليدية، وهذه ميزة. يمكنه تنفيذ أفكار بطريقة لم نتمكن من فعلها عندما كنا شبابًا. هناك إيجابيات وسلبيات.

الطريق التقليدي: “الحصول على شهادة، والتدريب، والترقية بالعمل”، لم يعد موجودًا، وهذا يسبب صدمة ثقافية كبيرة. هذا صعب جدًا للشباب حديثي التخرج. إذا كنت لا تزال في الجامعة، لديك وقت لرؤية الاتجاه الصحيح. وإذا كنت في أزمة، نصيحتي هي: استغل هذه الأدوات لبناء شيء. يجب أن يكون طموحك أكبر بمئة مرة مما كنا عليه في سنك.

المقدم: هل ستؤدي اختفاء الكثير من الأعمال التي تعتمد على “الزر” إلى فوضى اجتماعية على المدى القصير؟

كريستيان: المجتمع سيعيد خلق وظائف “الزر” عند الحاجة للحفاظ على الاستقرار. لكن العديد من الذين يعملون في هذه الوظائف لديهم القدرة على فعل المزيد، لكنهم كانوا مقيدين بالبيئة. عندما لم تعد الأعمال اليدوية ضرورية، اخترعنا الذهاب إلى الصالات الرياضية؛ الآن، مع تحرير العمل الفكري، سيطور الناس أعمالًا جانبية واقتصاد المبدعين ليشعروا بالتحدي. ولهذا أعتقد أن “الدخل الأساسي غير المشروط” (UBI) خاطئ تمامًا، فالبشر بحاجة إلى معنى ودافع لتحقيق الذات. حتى لو تم استبدال جزء كبير من عملك الآن بالذكاء الاصطناعي، إذا استثمرت في أدوات الذكاء الاصطناعي بشكل جيد، يمكن لموظف مبتدئ أن يحقق إنتاجية كانت سابقًا من نصيب فريق كامل.

المقدم: هل لديك نصائح للشركات والمستثمرين؟

كريستيان: بالنسبة للشركات، استثمر في بنية تحتية للتحقق، وقدم “المسؤولية كخدمة” (أي لا تقتصر على تقديم الوكيل، بل تتحمل المسؤولية عن النتائج). وأيضًا، احرص على الحصول على “مصادر الحقائق الحصرية”، لأن الذكاء الاصطناعي سهل الاحتيال، والشركات التي توفر بيانات حصرية وموثوقة، مثل بلومبرغ، ذات قيمة عالية. للمستثمرين، بالإضافة إلى الاستثمار في هذه، ركز على البحث والتطوير “غير القابل للقياس”. قد تتوقف التأثيرات الشبكية التقليدية، وتبنى تأثيرات جديدة على مدى مدى موثوقية وكفاءة وكيلك، بناءً على مدى جودة ردود الفعل الحقيقية التي تحصل عليها، لأن الناس يريدون شراء ذكاءً موثوقًا به بعد التحقق.

المقدم: هل التقنية المشفرة مفيدة في عملية التحقق هذه؟

كريستيان: البنية التحتية الأساسية التي أنشئت في مجال التشفير خلال العقد الماضي مهمة جدًا. عندما نحتاج إلى إثبات الهوية أو منع اختراق الحسابات، تقنيات مثل “إثبات الشخصية” على السلسلة توفر تحققًا قويًا. بالإضافة إلى ذلك، مصادر البيانات وسلاسل التشفير التنظيمية، نحتاج لضمان أن المعلومات المُنشأة والنماذج تتوافق مع معايير التشفير الصارمة.

المقدم: ماذا يجب أن يفعل الناس خلال العام القادم؟ هل تتفائل بمستقبل البشرية؟

كريستيان: أولاً، لا داعي للذعر. جرب بكثافة، واستغل الأدوات بشكل كبير “لتقليل” وأتمتة نفسك الحالية. الكثير من الهوايات قد تتحول إلى مسارات ذات معنى في المستقبل. أسوأ شيء هو أن تتعرف على حدود ونواقص النماذج. بالنسبة للعديد من منشئي المحتوى على الإنترنت، أصبح الشغف عملًا، وسيكون هذا الاتجاه السائد في المستقبل. إذا كان لديك أطفال، اكتشف مواهبهم، ودعهم يغمرون في حبهم، فهذا هو الأهم. لا توجد نماذج مهنية ثابتة، والأدوات الجديدة للذكاء الاصطناعي يمكن أن تساعدكم بشكل أفضل في العثور على الطريق الذي يخصكم فقط.