• الرئيسية
  • كل المواضيع
  • الاتصال بنا
facebook twitter instagram telegram
بشرى حياة
☰
  • اسلاميات
  • حقوق
  • علاقات زوجية
  • تطوير
  • ثقافة
  • اعلام
  • منوعات
  • صحة وعلوم
  • تربية
  • خواطر

تسمم نفسها.. برامج الذكاء الاصطناعي تعاني من عيب قاتل

بشرى حياة / الأثنين 26 آب 2024 / صحة وعلوم / 1609
شارك الموضوع :

تدريب أنظمة الذكاء الاصطناعي على كميات كبيرة من البيانات المنتشرة عبر الإنترنت

فاجأت النتائج التي توصلت إليها ورقة بحثية جديدة بشأن "الذكاء الاصطناعي التوليدي"، القائمين على تطوير هذه التكنولوجيا، حيث تبين أن نماذج اللغة الكبيرة التي يشغلها الذكاء الاصطناعي التوليدي مثل "ChatGPT" و"Gemini" والتي تتغذى على البيانات، تواجه عيباً قاتلاً يتمثل بقدرة هذه النماذج على تسميم نفسها بنفسها.

ففي الوقت الذي يرى فيه أركان صناعة التكنولوجيا، أن تدريب أنظمة الذكاء الاصطناعي على كميات كبيرة من البيانات المنتشرة عبر الإنترنت، سيسمح لهذه الأنظمة بالتفوق على البشر في مرحلة لاحقة، حذّر علماء من جامعة أكسفورد وجامعات أخرى، عبر ورقة بحثية تم نشرها في العدد الأخير من مجلة العلوم المرموقة "Nature"، من أن استخدام "البيانات الاصطناعية" لتدريب الذكاء الاصطناعي التوليدي، يمكن أن يؤدي إلى تدهور دقة هذه الأنظمة إلى حد يجعلها عديمة الفائدة.

وبحسب تقرير نشرته "بلومبرغ" واطلع عليه موقع "اقتصاد سكاي نيوز عربية"، فقد اكتشف الباحثون أنه عندما يتم تدريب أنظمة الذكاء الاصطناعي، باستخدام بيانات تم إنشاؤها بواسطة الذكاء الاصطناعي، فإن أداء هذه الأنظمة يتدهور بشكل ملحوظ، وهي الظاهرة التي يطلق عليها الخبراء اسم "انهيار النموذج".

ما هو انهيار النموذج؟

تعتمد برامج الدردشة التي تعمل بالذكاء الاصطناعي مثل ChatGPT على نماذج لغوية ضخمة، تم تدريبها على تريليونات البيانات التي تم إنشاؤها من قبل الإنسان، وقد تم الاستحصال على هذه البيانات من صفحات الويب والمقالات، والتعليقات المنتشرة على شبكة الانترت.

وبفضل هذه الكميات الضخمة من البيانات، تمكنت شركات "أوبن أيه آي" و"ألفابت" و"ميتا" وغيرها من الشركات، من تصميم برامج يمكنها تقديم إجابات واضحة على استفسارات المستخدمين.

ولكن ولإشباع شهية برامج الذكاء الاصطناعي التوليدي التي لا تشبع من التغذية بالبيانات، حاول الباحثون وبشكل متزايد في الآونة الأخيرة، تزويد هذه البرامج ببيانات "اصطناعية"، أي من صنع الذكاء الاصطناعي نفسه، ليتبين للمراقبين أن هذه البرامج تنهار وتنتج معلومات مشوهة عندما يتم تدريبها على محتوى لم يصنعه البشر.

وقد شبه الباحثون هذه الظاهرة بتسميم الذكاء الاصطناعي لنفسه.

ماذا وجدت الورقة البحثية؟

في الورقة البحثية الجديدة، وجد الباحثون من أكسفورد وكامبريدج وجامعات أخرى أن برامج الذكاء الاصطناعي المدربة بمحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي تصدر نتائج غير منطقية، لتتفاقم هذه المشكلة في كل مرة يتم فيها تدريب هذه البرامج على بيانات اصطناعية، مما يجعل النتائج التي تزود بها المستخدمين بعيدة كل البعد عن الواقع وأقرب إلى الهراء.

المستقبل لمطوري البرامج و خبراء الأمن السيبراني

وبحسب المؤلف الرئيسي للورقة البحثية إيليا شوميلوف وفريقه، فإن الأمر يصبح أسوأ في كل مرة يتم فيها تغذية برامج الذكاء الاصطناعي ببيانات اصطناعية، لينتهي الأمر ببيانات ملوثة وبرامج لا تدرك الواقع.

وفي أحد الأمثلة على ما حصل، أظهرت الورقة البحثية، أن برنامج لغوي للذكاء الاصطناعي تم تدريبه عدة مرات على بيانات تم إنشاؤها بواسطة الذكاء الاصطناعي، قام بتحويل استفسار عن الهندسة المعمارية البريطانية التاريخية إلى مناقشة غير مفهومة عن الأرانب البرية.

ما مدى خطورة انهيار النموذج؟

تشير الورقة البحثية إلى أن برامج الذكاء الاصطناعي المستقبلية، سيتم تدريبها حتماً على البيانات التي أنتجها أسلافها، حيث تنتشر الكتابات والصور التي تم استحداثها بواسطة الذكاء الاصطناعي عبر الإنترنت بشكل كبير، ولذلك فإن مشكلة "انهيار النموذج" يجب أن تؤخذ على محمل الجد، إذا أراد العالم الحفاظ على فوائد برامج الذكاء الاصطناعي، ومنع عرقلة تطورها.

هل هناك حل؟

وفقاً للباحثين، من الضروري لمطوري الذكاء الاصطناعي، تأمين وصول برامجهم إلى البيانات عالية الجودة من صنع الإنسان، والتي لم يتم تلويثها بمحتوى الذكاء الاصطناعي، فرغم أن القيام بهذا الأمر يعد مهمة مكلفة، إلا أنه وحتى الآن لا توجد طريقة أخرى للحفاظ على دقة برامج الذكاء الاصطناعي.

ويقترح الباحثون أن يعمل مطورو برامج الذكاء الاصطناعي، على التنسيق فيما بينهم من أجل فهم مصدر البيانات التي يتهافتون لجمعها عبر الإنترنت.

لماذا اللجوء للبيانات الاصطناعية؟

يقول المحلل والكاتب المختص بالذكاء الاصطناعي ألان القارح، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن نتائج الورقة البحثية الجديدة، يمكن اعتبارها "مشؤومة" لصناعة الذكاء الاصطناعي التوليدي، وأتت لتزيد الشكوك حول المسار الذي تسلكه هذه التكنولوجيا، في وقت تتساءل فيه الأسواق عما إذا كانت الاستثمارات الضخمة، التي يتم ضخها في تطوير الذكاء الاصطناعي التوليدي، ستؤتي ثمارها في النهاية، مشيراً إلى أن شركات التكنولوجيا أصبحت تلجأ للبيانات الاصطناعية لتجنب استخدام بيانات الأفراد والمؤسسات، بسبب مواجهتها لقضايا انتهاك خصوصية تتعلق بحقوق النشر، ولكن هذه الشركات وقعت في مشكلة أخرى، وهي تدهور جودة البرامج وانهيارها.

مراحل انهيار الذكاء الاصطناعي

يشرح القارح أن انهيار برامج الذكاء الاصطناعي يتم على مرحلتين، المرحلة الأولى أو ما يسمى المرحلة المبكرة، ويمكن ملاحظته في عمومية وعدم وضوح وتباين المعلومات التي تقدمها هذه البرامج، ثم يأتي انهيار المرحلة الثانية أو المرحلة المتأخرة، عندما تبدأ خلالها برامج الذكاء الاصطناعي في تفسير الواقع بشكل خاطئ، وارتكاب أخطاء جسيمة وذلك نتيجة تدربها لوقت طويل على بيانات ومعلومات، أنتجتها في المرحلة الأولى من الإنهيار، لافتاً إلى أن عملية "انهيار النموذج" تتم على مراحل وتؤدي إلى تلوث البيانات على مر الأجيال، قبل أن تصل إلى مرحلة الانهيار التام والتي تتجسد بتقديم البرامج لإجابات لا علاقة لها بالسؤال المطروح.

معلومات "معاد تدويرها"

وبحسب القارح فإن البيانات الاصطناعية، يمكن أن تتسبب بعقبات كبيرة لبرامج الذكاء الاصطناعي، نظراً لكونها تعتمد على محتوى ليس بجديد وغير مبتكر، فالبيانات الاصطناعية هي معلومات خضعت لما يشبه عملية "إعادة التدوير"، لتتحول هذه البيانات وبعد عدة عمليات من إعادة التدوير، إلى معلومات مشوهة وغير متسقة، وهذا ما يضع برامج الذكاء الاصطناعي عندها في حيرة من أمرها، ويدفعها إلى تقديم إجابات غير مفهومة، مع فقدانها لزمام الأمور. في المقابل فإن البيانات المرتبطة بالانسان دائماً ما تكون متجددة ومبتكرة وتحتوي على رأي واضح وليس رأياً رمادياً مثل البيانات الاصطناعية، وبالتالي تساهم جميع هذه العناصر في جعل الذكاء الاصطناعي يقدم إجابات دقيقة، وملائمة عند الاعتماد على معلومات البشر.

فقدان الثقة بالذكاء الاصطناعي

من جهته يقول المحلل التقني جو زغبي إن فهم التأثيرات بعيدة المدى لمشكلة "انهيار النموذج"، أمر أساسي لتطوير وتعزيز فرص نجاح مشاريع الذكاء الاصطناعي التوليدي في المستقبل، فتفاقم هذه المشكلة وبقاؤها دون حل، سيزيد من التكاليف المرتبطة بتطوير هذه التكنولوجيا، وسيؤدي إلى فقدان الثقة من قبل العملاء والشركاء، ما سيضع مطوري الذكاء الاصطناعي أمام احتمال فشل مشاريعهم، وعدم القدرة على تحقيق أهدافهم التكنولوجية والتجارية.

بيانات البشر هي الحل

ويؤكد زغبي أن البيانات المرتبطة بالتفاعلات البشرية، ستكون ذات قيمة متزايدة في السنوات المقبلة، وهذا ما يؤكد على الدور المهم الذي يجمع بين البشر والآلة في المستقبل، فبرامج الذكاء الاصطناعي تحتاج لبيانات الإنسان كي تتفاعل بالشكل الصحيح، وتقوم بتقديم معلومات صحيحة بسرعة قياسية غير موجودة لدى البشر، ولذلك على شركات تطوير الذكاء الاصطناعي الاعتماد على سياسات مرنة، للتغلب على مشكلة "انهيار النموذج" من خلال الاعتماد على البيانات البشرية، مشيراً إلى أن شركة OpenAI أنفقت ملايين الدولارات للدخول في شراكات مع ناشرين، مثل News Corp و Axel Springer، والحصول منها على تراخيص تتيح لها تدريب ChatGPT على بيانات بشرية إدراكاً منها أن الحل الأمثل لهذه المشكلة، يكمن في هذا الاتجاه. حسب سكاي نيوز 

العلم
دراسات
الذكاء الصناعي
التكنولوجيا الذكية
شارك الموضوع :

اضافةتعليق

    تمت الاضافة بنجاح

    التعليقات

    آخر الإضافات للكاتب (ة):

    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد

    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد

    منذ 7 ساعة/
    انخفاض ضغط الدم.. متى يصبح خطرًا على الصحة وكيف يمكن التعامل معه؟

    انخفاض ضغط الدم.. متى يصبح خطرًا على الصحة وكيف يمكن التعامل معه؟

    الأثنين 16 تشرين الثاني 2026/
    الوجبات السريعة تهدد صحة الدماغ بصمت.. دراسة تكشف مخاطر غير متوقعة

    الوجبات السريعة تهدد صحة الدماغ بصمت.. دراسة تكشف مخاطر غير متوقعة

    الأحد 15 تشرين الثاني 2026/
    ألم الكعب عند الاستيقاظ.. ما أسبابه وكيف يمكن علاجه؟

    ألم الكعب عند الاستيقاظ.. ما أسبابه وكيف يمكن علاجه؟

    السبت 14 تشرين الثاني 2026/
    الهواء الملوّث يهدد البصر.. دراسات تكشف علاقته بأمراض العيون وفقدان الرؤية

    الهواء الملوّث يهدد البصر.. دراسات تكشف علاقته بأمراض العيون وفقدان الرؤية

    الخميس 12 تشرين الثاني 2026/
    التهاب اللثة.. أسباب خفية تهدد صحة الأسنان وطرق فعّالة للوقاية والعلاج

    التهاب اللثة.. أسباب خفية تهدد صحة الأسنان وطرق فعّالة للوقاية والعلاج

    الأربعاء 11 تشرين الثاني 2026/

    آخر الاضافات

    من نور العقيدة إلى مسؤولية الرسالة

    التصفح القهري… حين تسرق الشاشات الوقت والانتباه

    إشباع الطفل عاطفياً ونفسياً.. أساس بناء شخصية متوازنة

    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد

    البيت الفاطمي قلب المجتمع ونبضه في العصر الحديث

    في اليوم العالمي للتسامح: فلسفة التسامح في نهج الامام الصادق

    إضاءة عقائدية من الزيارة الفاطمية: الاصطناع الإلهي للحُجَج

    انخفاض ضغط الدم.. متى يصبح خطرًا على الصحة وكيف يمكن التعامل معه؟

    آخر القراءات

    ما هي الأبعاد النفسية للرسم على الكتب المدرسية والدفاتر؟

    النشر : الأحد 24 تشرين الثاني 2019
    اخر قراءة : منذ 6 دقائق

    أطفالنا والزراعة.. تأثير البستنة في تنشئة الأطفال

    النشر : الأثنين 26 آيار 2025
    اخر قراءة : منذ 6 دقائق

    إذا كان الجميع مؤثراً فمن سيتأثر؟

    النشر : الأثنين 30 تشرين الاول 2023
    اخر قراءة : منذ 6 دقائق

    فوائد كثيرة غير معروفة لتناول الماء الدافئ

    النشر : الخميس 08 آب 2019
    اخر قراءة : منذ 6 دقائق

    على حافة الهاوية

    النشر : الأحد 19 آب 2018
    اخر قراءة : منذ 6 دقائق

    حكايا الطريق

    النشر : الأحد 27 تشرين الاول 2019
    اخر قراءة : منذ 6 دقائق

    الأكثر قراءة

    • اسبوع
    • شهر

    عتمة الكون يوم استشهاد البتول: سيرة النور والوفاء

    • 736 مشاهدات

    من محراب فاطمة إلى مائدة الإيثار: قراءة في فلسفة العطاء

    • 356 مشاهدات

    في مَحْضَرِ الوالِد: من خواطر كريمة آية الله السيد محمد رضا الشيرازي

    • 352 مشاهدات

    ما وراء السبورة... حكاية معلّم

    • 330 مشاهدات

    الهواء الملوّث يهدد البصر.. دراسات تكشف علاقته بأمراض العيون وفقدان الرؤية

    • 326 مشاهدات

    أزمة التواصل الشفهي: حين تتقدم الرسائل ويتراجع الحوار

    • 316 مشاهدات

    تحت غطاء الكوميديا.. خوارزميات التسطيح وتجريف الأخلاق عبر فصوع وأبو صبرية

    • 7425 مشاهدات

    في ذكرى ولادتها المباركة: السيدة زينب منارة الصبر ورسالة الوعي المعاصر

    • 1368 مشاهدات

    المرأة وصناعة الأثر.. الزهراء عليها السلام نموذجًا

    • 1297 مشاهدات

    من يملك وقتك؟

    • 1126 مشاهدات

    الجرح الذي لا يبرأ: الأبعاد الفكرية والتأسيسية لشهادة الصديقة الكبرى وتوصيات للشباب

    • 1012 مشاهدات

    من سبيستون إلى يوتيوب: كيف تغيّر عالم الطفل؟

    • 1003 مشاهدات

    facebook

    Tweets
    صفحة للمرآة العربية تهتم بالفكر والثقافة والصحة والعلم

    الأبواب

    • اسلاميات
    • حقوق
    • علاقات زوجية
    • تطوير
    • ثقافة
    • اعلام
    • منوعات
    • صحة وعلوم
    • تربية
    • خواطر

    اهم المواضيع

    من نور العقيدة إلى مسؤولية الرسالة
    • منذ 7 ساعة
    التصفح القهري… حين تسرق الشاشات الوقت والانتباه
    • منذ 7 ساعة
    إشباع الطفل عاطفياً ونفسياً.. أساس بناء شخصية متوازنة
    • منذ 7 ساعة
    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد
    • منذ 7 ساعة

    0

    المشاهدات

    0

    المواضيع

    اخر الاضافات
    راسلونا
    Copyrights © 1999 All Rights Reserved by annabaa @ 2026
    2026 @ بشرى حياة