فهم الذكاء الاصطناعي

كيف تعمل النماذج اللغوية الكبيرة (LLM) مثل ChatGPT؟

جوهرها تخمين الكلمة التالية، فكيف صارت تحاورنا وتترجم وتكتب الشيفرة؟ رحلة في بنية المحوّلات والرموز والمواءمة البشرية.

3 دقائق قراءة هذا المقال متوفر بالإنجليزية

مبرمج أمام شاشات تعرض نموذجًا لغويًا

هاتفك يقترح عليك الكلمة التالية وأنت تكتب. النماذج اللغوية الكبيرة هي الفكرة نفسها بعد أن كبرت ملايين المرات، فصارت تحاور وتترجم وتكتب شيفرةً برمجية قد تعمل من أول محاولة في المهام القصيرة. والمفارقة أنها لا «تفهم» بمعناك، وإنما تُتقن لعبةً واحدة: تخمين الكلمة التالية.

البذرة: اللغة نظامٌ احتمالي

في عام 1948 ذهب كلود شانون (Claude Shannon) في نظرية المعلومات إلى أنّ اللغة يمكن نمذجتها احتماليًّا، فلكلّ حرفٍ وكلمة قدرٌ من «المفاجأة» يمكن قياسه. ثم جاء الانعطاف الكبير عام 2017 بورقة «الانتباه هو كل ما تحتاج إليه» التي قدّمت بنية المحوّلات: ينتبه كل رمزٍ إلى ما سبقه من رموز في السياق، ويزن علاقته بكلٍّ منها في آنٍ واحد. وهنا السرّ: معنى الكلمة يتلوّن بسياقها، كما تتبدّل «عين» بين الينبوع والجاسوس والعضو الباصر.

كيف تتعلّم؟

يُفكَّك كمٌّ هائل من النصوص إلى وحداتٍ صغيرة تُسمّى «رموزًا»، ويُطلب من النموذج أن يخمّن الرمز التالي في النص مراتٍ لا تُحصى. وكلّما أخطأ عُدّلت أوزانه الداخلية قليلًا. وتتحوّل الكلمات إلى متجهاتٍ في فضاءٍ متعدد الأبعاد تتجاور فيه المتقاربة معنًى؛ فقد بيّن توماس ميكولوف (Tomas Mikolov) وزملاؤه عام 2013 أنّ «ملك − رجل + امرأة» تقترب من «ملكة» في أمثلة منتقاة. أي أنّ المعنى يُستخلص من صحبة الكلمات، وهو ما لخّصه اللغوي فيرث (J. R. Firth) عام 1957: «تعرف الكلمة بصحبتها».

مرحلة المواءمة: يد الإنسان

بعد التدريب الأوّلي يكون النموذج موسوعيًّا فوضويًّا. فيتدخّل البشر بما يُعرف بـ«التعلّم المعزَّز بالتغذية الراجعة البشرية» (RLHF): يقيّم مقيِّمون بشريون إجاباته ويرتّبونها، فيميل إلى الإجابات النافعة المهذّبة. وبهذا تتسرّب قيم المقيِّمين وتحيّزاتهم إلى سلوكه، فسؤال «من يُدرّب الآلة؟» لا يقلّ شأنًا عن «بأيّ بيانات؟».

«القدرات المنبثقة»… سحر أم مقياس؟

لاحظ باحثون (2022) أنّ بعض المهارات تظهر فجأةً عند حجمٍ معيّن. غير أنّ دراسةً لاحقة (2023) رجّحت أنّ جزءًا كبيرًا من هذا «الانبثاق» أثرٌ لطريقة قياسنا غير الدقيقة لا ميلاد فهمٍ جديد. وهذا التمييز هو لبّ الخلاف: هل نشهد فجر وعيٍ آلي، أم صدًى إحصائيًّا بالغ الصقل؟

الطلاقة ليست فهمًا

قد يكتب النموذج فقرةً محكمة عن نظريةٍ علمية دون أن يكون واضحًا أنه يملك عنها تصوّرًا بالمعنى الذي نفهمه. ولذلك وصفته الباحثة إميلي بندر (Emily Bender) وزملاؤها بـ«الببغاء العشوائي». ومن هنا تأتي «الهلوسة»، أي اختلاق ما لا أصل له؛ إذ يطلب النموذج الأرجح إحصائيًّا لا الصحيح، ويُرجَّح أنها ملازمةٌ لطبيعته، يُقلَّل منها ولا يُظنّ زوالها كلّيًّا. فهو مساعدٌ يحتاج إلى مراجِعٍ يقظ، لا مرجعٌ لا يخطئ. وفي هذا درسٌ لنا قبل الآلة: أن نقول «لا أعلم» حين لا نعلم، فنصدق مع الناس ومع أنفسنا. وأثر هذه النماذج في أداء المهنيين ستجده في مقال «ثلاثة أوهام عن الذكاء الاصطناعي».

ثلاث ركائز للتعامل معها

  1. أتقن السؤال: جودة الجواب من جودة الطلب.
  2. تحقّق دائمًا: لا سيما في الأرقام والأسماء والوقائع.
  3. افهم الحدود: متى يكون النموذج في ميدانه ومتى يتهاوى؟ وضعف تمثيل العربية في بيانات التدريب سؤالٌ قائمٌ بذاته، تفصيله في مقال «الذكاء الاصطناعي العربي».

والنماذج اللغوية الكبيرة محطةٌ مبهرة لا نهاية الطريق؛ وحين تُتقن كلماتنا تسألنا سؤالًا أقدم: ما معنى أن نفهم؟ والتحدّي القادم ألّا نكتفي بآلةٍ تتكلّم كما نتكلّم، بل نظلّ المسؤولين عمّا نقول، ولماذا، ولمن.

المراجع

  1. C. Shannon, A Mathematical Theory of Communication, Bell System Technical Journal 27 (1948)
  2. J. R. Firth, A Synopsis of Linguistic Theory 1930–1955, in Studies in Linguistic Analysis, Blackwell (1957)
  3. T. Mikolov, W. Yih, G. Zweig, Linguistic Regularities in Continuous Space Word Representations, NAACL-HLT (2013)
  4. A. Vaswani et al., Attention Is All You Need, NeurIPS (2017)
  5. L. Ouyang et al., Training Language Models to Follow Instructions with Human Feedback, NeurIPS (2022)
  6. J. Wei et al., Emergent Abilities of Large Language Models, Transactions on Machine Learning Research (2022)
  7. R. Schaeffer, B. Miranda, S. Koyejo, Are Emergent Abilities of Large Language Models a Mirage?, NeurIPS (2023)
  8. E. Bender, T. Gebru, A. McMillan-Major, S. Shmitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, FAccT (2021)