• الرئيسية
  • كل المواضيع
  • الاتصال بنا
facebook twitter instagram telegram
بشرى حياة
☰
  • اسلاميات
  • حقوق
  • علاقات زوجية
  • تطوير
  • ثقافة
  • اعلام
  • منوعات
  • صحة وعلوم
  • تربية
  • خواطر

ما مخاطر تقنيات الذكاء الاصطناعي إذا وصلت للأيدي الخاطئة؟

بشرى حياة / الأثنين 13 آيار 2024 / صحة وعلوم / 2432
شارك الموضوع :

يظهر التزييف العميق على مواقع التواصل الاجتماعي، فيخلط بين الحقيقة والخيال في عالم السياسات الأميركية

إدارة الرئيس الأميركي جو بايدن تستعد لفتح جبهة جديدة في جهودها لحماية الذكاء الاصطناعي المطور في الولايات المتحدة من الصين وروسيا عبر خطط أولية لتأمين أكثر نماذجه تطورا.

ويخشى باحثون من الحكومة والقطاع الخاص من أن أعداء واشنطن قد يستخدمون هذه النماذج، التي تحلل كميات هائلة من النصوص والصور لتلخيص المعلومات وتوليد المحتوى، في شن هجمات رقمية شديدة أو حتى في تصنيع أسلحة بيولوجية ناجعة.

ماهي أبرز التهديدات التي يشكلها الذكاء الاصطناعي:

1) التزييف العميق والتضليل المعلوماتي

- يظهر التزييف العميق على مواقع التواصل الاجتماعي، فيخلط بين الحقيقة والخيال في عالم السياسات الأميركية القائم على الاستقطاب.

- التزييف العميق هو مقاطع فيديو تبدو واقعية لكنها غير حقيقية أنشأتها خوارزميات الذكاء الاصطناعي المدربة على مقاطع فيديو كثيرة عبر الإنترنت.

- على الرغم من توفر هذه الوسائط المولدة رقميا منذ عدة سنوات، فقد استفحلت قدراتها على مدى العام المنصرم بفعل مجموعة من أدوات "الذكاء الاصطناعي التوليدي" الجديدة مثل أداة (ميد جيرني) التي تجعل إنشاء مقاطع تزييف عميق مقنعة أمرا يسيرا ورخيص التكلفة.

- قال باحثون في تقرير بمارس إن من الممكن استخدام شركات مثل (أوبن إيه.آي) و(مايكروسوفت) أدوات إنشاء الصور التي تعمل بالذكاء الاصطناعي في توليد صور قد تروّج لمعلومات مضللة ذات صلة بالانتخابات وبالتصويت، وذلك على الرغم من وجود سياسات في كلتا الشركتين لمكافحة إنشاء المحتوى المضلل.

- تستغل بعض حملات التضليل المعلوماتي بكل بساطة قدرة الذكاء الاصطناعي على محاكاة المقالات الإخبارية الحقيقية كوسيلة لنشر المعلومات الزائفة.

- قالت وزارة الأمن الداخلي الأميركية في تقييمها للتهديدات الداخلية لعام 2024 إنه في العام الماضي على سبيل المثال روّج موقع إخباري صيني يستخدم منصة ذكاء اصطناعي توليدي ادعاء زائفا كان متداولا في وقت سابق ومفاده أن الولايات المتحدة تدير مختبرا في كازاخستان لتصنيع أسلحة بيولوجية لتستخدمها في مواجهة الصين.

- ذكر جيك سوليفان مستشار الأمن القومي بالبيت الأبيض خلال فعالية للذكاء الاصطناعي في واشنطن يوم الأربعاء، أن المشكلة ليس لها حل سهل لأنها تجمع بين قدرة الذكاء الاصطناعي و"نية جهات رسمية وغير رسمية لاستخدام التضليل المعلوماتي على نطاق كبير في تخريب الديمقراطيات وترويج الدعاية وتشكيل الوعي في العالم".

2) أسلحة بيولوجية

• يتزايد قلق مجتمع المخابرات ومراكز البحوث والسلك الأكاديمي في الولايات المتحدة إزاء مخاطر تشكلها جهات أجنبية عدائية تملك حق الوصول إلى قدرات الذكاء الاصطناعي المتطورة.

• أشار باحثون في شركة (غريفون ساينتيفيك) ومؤسسة (راند) البحثية إلى أن نماذج الذكاء الاصطناعي المتطورة يمكنها تقديم معلومات من شأنها المساعدة في تصنيع أسلحة بيولوجية.

• درست "غريفون" كيفية استخدام جهات عدائية النماذج اللغوية الكبيرة في إلحاق الضرر في مجال علوم الحياة، وخلصت إلى أنها "قادرة على تقديم معلومات قد تدعم جهة شريرة في إنشاء سلاح بيولوجي من خلال تقديم معلومات مفيدة ودقيقة وتفصيلية في كل خطوة من خطوات هذا المسار".

• النماذج اللغوية الكبيرة هي برامج كمبيوتر تستعين بمجموعات ضخمة من النصوص لتوليد ردود على الاستفسارات.

• خلصت "غريفون" إلى أن أي نموذج لغوي كبير قد يوفر على سبيل المثال معلومات يصل مستواها إلى ما بعد مرحلة الدكتوراه لحل مشكلات تطرأ خلال العمل على فيروس قادر على نشر وباء.

• أظهرت مؤسسة (راند) البحثية أن النماذج اللغوية الكبيرة قد تسهم في التخطيط لهجوم بيولوجي وتنفيذه، وخلصت إلى أن أي نموذج لغوي كبير قد يقترح، على سبيل المثال، أساليب لنثر مادة البوتوكس السامة في الهواء.

3) أسلحة رقمية

- أفادت وزارة الأمن الداخلي الأميركية في تقييمها للتهديدات الداخلية لعام 2024 بأن الجهات الرقمية من المرجح أن تستخدم الذكاء الاصطناعي في "تطوير أدوات جديدة لتمكين شن هجمات رقمية أوسع نطاقا وأكثر سرعة وكفاءة ومراوغة" على البنية التحتية الحساسة، بما في ذلك خطوط أنابيب النفط والغاز والسكك الحديدية.

- أوضحت الوزارة أن الصين وجهات معادية أخرى تطور تكنولوجيا ذكاء اصطناعي من شأنها تقويض الدفاعات الرقمية الأميركية، بما في ذلك برامج الذكاء الاصطناعي التوليدي التي تدعم هجمات البرمجيات الخبيثة.

- بينت "مايكروسوفت" في تقرير بفبراير أنها تعقبت جماعات تسلل إلكتروني تابعة للحكومتين الصينية والكورية الشمالية، بالإضافة إلى المخابرات الحربية الروسية والحرس الثوري الإيراني، في ظل محاولتها إحكام هجماتها عبر الإنترنت بالاستعانة بالنماذج اللغوية الكبيرة. حسب سكاي نيوز 

مفاهيم
العلم
الذكاء الصناعي
التكنولوجيا الذكية
شارك الموضوع :

اضافةتعليق

    تمت الاضافة بنجاح

    التعليقات

    آخر الإضافات للكاتب (ة):

    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد

    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد

    منذ 16 ساعة/
    انخفاض ضغط الدم.. متى يصبح خطرًا على الصحة وكيف يمكن التعامل معه؟

    انخفاض ضغط الدم.. متى يصبح خطرًا على الصحة وكيف يمكن التعامل معه؟

    الأثنين 16 تشرين الثاني 2026/
    الوجبات السريعة تهدد صحة الدماغ بصمت.. دراسة تكشف مخاطر غير متوقعة

    الوجبات السريعة تهدد صحة الدماغ بصمت.. دراسة تكشف مخاطر غير متوقعة

    الأحد 15 تشرين الثاني 2026/
    ألم الكعب عند الاستيقاظ.. ما أسبابه وكيف يمكن علاجه؟

    ألم الكعب عند الاستيقاظ.. ما أسبابه وكيف يمكن علاجه؟

    السبت 14 تشرين الثاني 2026/
    الهواء الملوّث يهدد البصر.. دراسات تكشف علاقته بأمراض العيون وفقدان الرؤية

    الهواء الملوّث يهدد البصر.. دراسات تكشف علاقته بأمراض العيون وفقدان الرؤية

    الخميس 12 تشرين الثاني 2026/
    التهاب اللثة.. أسباب خفية تهدد صحة الأسنان وطرق فعّالة للوقاية والعلاج

    التهاب اللثة.. أسباب خفية تهدد صحة الأسنان وطرق فعّالة للوقاية والعلاج

    الأربعاء 11 تشرين الثاني 2026/

    آخر الاضافات

    من نور العقيدة إلى مسؤولية الرسالة

    التصفح القهري… حين تسرق الشاشات الوقت والانتباه

    إشباع الطفل عاطفياً ونفسياً.. أساس بناء شخصية متوازنة

    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد

    البيت الفاطمي قلب المجتمع ونبضه في العصر الحديث

    في اليوم العالمي للتسامح: فلسفة التسامح في نهج الامام الصادق

    إضاءة عقائدية من الزيارة الفاطمية: الاصطناع الإلهي للحُجَج

    انخفاض ضغط الدم.. متى يصبح خطرًا على الصحة وكيف يمكن التعامل معه؟

    آخر القراءات

    العزلة الإجبارية.. سجن أم استراحة؟

    النشر : الأثنين 15 حزيران 2020
    اخر قراءة : منذ 40 دقيقة

    النجوم وأسرار مواقعها في القرآن

    النشر : السبت 28 آيار 2016
    اخر قراءة : منذ 40 دقيقة

    كيف تعالج جفاف الفم وخشونة الحلق خلال ساعات الصيام؟

    النشر : الأحد 02 آيار 2021
    اخر قراءة : منذ 40 دقيقة

    فيتامين (د) قبل الولادة مرتبط بتقليص خطر نقص وزن الرضع والعيوب الخلقية

    النشر : الأثنين 02 تموز 2018
    اخر قراءة : منذ 40 دقيقة

    لأجل المهدي تخرجي: حفل تخرج تقيمه مؤسسة المعصومين الأربعة عشر

    النشر : الخميس 17 آيار 2018
    اخر قراءة : منذ 40 دقيقة

    ما فائدة النور؟

    النشر : الثلاثاء 31 كانون الثاني 2023
    اخر قراءة : منذ 40 دقيقة

    الأكثر قراءة

    • اسبوع
    • شهر

    عتمة الكون يوم استشهاد البتول: سيرة النور والوفاء

    • 740 مشاهدات

    من محراب فاطمة إلى مائدة الإيثار: قراءة في فلسفة العطاء

    • 403 مشاهدات

    في مَحْضَرِ الوالِد: من خواطر كريمة آية الله السيد محمد رضا الشيرازي

    • 357 مشاهدات

    ما وراء السبورة... حكاية معلّم

    • 332 مشاهدات

    الهواء الملوّث يهدد البصر.. دراسات تكشف علاقته بأمراض العيون وفقدان الرؤية

    • 329 مشاهدات

    أزمة التواصل الشفهي: حين تتقدم الرسائل ويتراجع الحوار

    • 319 مشاهدات

    تحت غطاء الكوميديا.. خوارزميات التسطيح وتجريف الأخلاق عبر فصوع وأبو صبرية

    • 7428 مشاهدات

    في ذكرى ولادتها المباركة: السيدة زينب منارة الصبر ورسالة الوعي المعاصر

    • 1381 مشاهدات

    المرأة وصناعة الأثر.. الزهراء عليها السلام نموذجًا

    • 1312 مشاهدات

    من يملك وقتك؟

    • 1144 مشاهدات

    الجرح الذي لا يبرأ: الأبعاد الفكرية والتأسيسية لشهادة الصديقة الكبرى وتوصيات للشباب

    • 1027 مشاهدات

    من سبيستون إلى يوتيوب: كيف تغيّر عالم الطفل؟

    • 1006 مشاهدات

    facebook

    Tweets
    صفحة للمرآة العربية تهتم بالفكر والثقافة والصحة والعلم

    الأبواب

    • اسلاميات
    • حقوق
    • علاقات زوجية
    • تطوير
    • ثقافة
    • اعلام
    • منوعات
    • صحة وعلوم
    • تربية
    • خواطر

    اهم المواضيع

    من نور العقيدة إلى مسؤولية الرسالة
    • منذ 16 ساعة
    التصفح القهري… حين تسرق الشاشات الوقت والانتباه
    • منذ 16 ساعة
    إشباع الطفل عاطفياً ونفسياً.. أساس بناء شخصية متوازنة
    • منذ 16 ساعة
    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد
    • منذ 16 ساعة

    0

    المشاهدات

    0

    المواضيع

    اخر الاضافات
    راسلونا
    Copyrights © 1999 All Rights Reserved by annabaa @ 2026
    2026 @ بشرى حياة