• الرئيسية
  • كل المواضيع
  • الاتصال بنا
facebook twitter instagram telegram
بشرى حياة
☰
  • اسلاميات
  • حقوق
  • علاقات زوجية
  • تطوير
  • ثقافة
  • اعلام
  • منوعات
  • صحة وعلوم
  • تربية
  • خواطر

ما مخاطر تقنيات الذكاء الاصطناعي إذا وصلت للأيدي الخاطئة؟

بشرى حياة / الأثنين 13 آيار 2024 / صحة وعلوم / 2437
شارك الموضوع :

يظهر التزييف العميق على مواقع التواصل الاجتماعي، فيخلط بين الحقيقة والخيال في عالم السياسات الأميركية

إدارة الرئيس الأميركي جو بايدن تستعد لفتح جبهة جديدة في جهودها لحماية الذكاء الاصطناعي المطور في الولايات المتحدة من الصين وروسيا عبر خطط أولية لتأمين أكثر نماذجه تطورا.

ويخشى باحثون من الحكومة والقطاع الخاص من أن أعداء واشنطن قد يستخدمون هذه النماذج، التي تحلل كميات هائلة من النصوص والصور لتلخيص المعلومات وتوليد المحتوى، في شن هجمات رقمية شديدة أو حتى في تصنيع أسلحة بيولوجية ناجعة.

ماهي أبرز التهديدات التي يشكلها الذكاء الاصطناعي:

1) التزييف العميق والتضليل المعلوماتي

- يظهر التزييف العميق على مواقع التواصل الاجتماعي، فيخلط بين الحقيقة والخيال في عالم السياسات الأميركية القائم على الاستقطاب.

- التزييف العميق هو مقاطع فيديو تبدو واقعية لكنها غير حقيقية أنشأتها خوارزميات الذكاء الاصطناعي المدربة على مقاطع فيديو كثيرة عبر الإنترنت.

- على الرغم من توفر هذه الوسائط المولدة رقميا منذ عدة سنوات، فقد استفحلت قدراتها على مدى العام المنصرم بفعل مجموعة من أدوات "الذكاء الاصطناعي التوليدي" الجديدة مثل أداة (ميد جيرني) التي تجعل إنشاء مقاطع تزييف عميق مقنعة أمرا يسيرا ورخيص التكلفة.

- قال باحثون في تقرير بمارس إن من الممكن استخدام شركات مثل (أوبن إيه.آي) و(مايكروسوفت) أدوات إنشاء الصور التي تعمل بالذكاء الاصطناعي في توليد صور قد تروّج لمعلومات مضللة ذات صلة بالانتخابات وبالتصويت، وذلك على الرغم من وجود سياسات في كلتا الشركتين لمكافحة إنشاء المحتوى المضلل.

- تستغل بعض حملات التضليل المعلوماتي بكل بساطة قدرة الذكاء الاصطناعي على محاكاة المقالات الإخبارية الحقيقية كوسيلة لنشر المعلومات الزائفة.

- قالت وزارة الأمن الداخلي الأميركية في تقييمها للتهديدات الداخلية لعام 2024 إنه في العام الماضي على سبيل المثال روّج موقع إخباري صيني يستخدم منصة ذكاء اصطناعي توليدي ادعاء زائفا كان متداولا في وقت سابق ومفاده أن الولايات المتحدة تدير مختبرا في كازاخستان لتصنيع أسلحة بيولوجية لتستخدمها في مواجهة الصين.

- ذكر جيك سوليفان مستشار الأمن القومي بالبيت الأبيض خلال فعالية للذكاء الاصطناعي في واشنطن يوم الأربعاء، أن المشكلة ليس لها حل سهل لأنها تجمع بين قدرة الذكاء الاصطناعي و"نية جهات رسمية وغير رسمية لاستخدام التضليل المعلوماتي على نطاق كبير في تخريب الديمقراطيات وترويج الدعاية وتشكيل الوعي في العالم".

2) أسلحة بيولوجية

• يتزايد قلق مجتمع المخابرات ومراكز البحوث والسلك الأكاديمي في الولايات المتحدة إزاء مخاطر تشكلها جهات أجنبية عدائية تملك حق الوصول إلى قدرات الذكاء الاصطناعي المتطورة.

• أشار باحثون في شركة (غريفون ساينتيفيك) ومؤسسة (راند) البحثية إلى أن نماذج الذكاء الاصطناعي المتطورة يمكنها تقديم معلومات من شأنها المساعدة في تصنيع أسلحة بيولوجية.

• درست "غريفون" كيفية استخدام جهات عدائية النماذج اللغوية الكبيرة في إلحاق الضرر في مجال علوم الحياة، وخلصت إلى أنها "قادرة على تقديم معلومات قد تدعم جهة شريرة في إنشاء سلاح بيولوجي من خلال تقديم معلومات مفيدة ودقيقة وتفصيلية في كل خطوة من خطوات هذا المسار".

• النماذج اللغوية الكبيرة هي برامج كمبيوتر تستعين بمجموعات ضخمة من النصوص لتوليد ردود على الاستفسارات.

• خلصت "غريفون" إلى أن أي نموذج لغوي كبير قد يوفر على سبيل المثال معلومات يصل مستواها إلى ما بعد مرحلة الدكتوراه لحل مشكلات تطرأ خلال العمل على فيروس قادر على نشر وباء.

• أظهرت مؤسسة (راند) البحثية أن النماذج اللغوية الكبيرة قد تسهم في التخطيط لهجوم بيولوجي وتنفيذه، وخلصت إلى أن أي نموذج لغوي كبير قد يقترح، على سبيل المثال، أساليب لنثر مادة البوتوكس السامة في الهواء.

3) أسلحة رقمية

- أفادت وزارة الأمن الداخلي الأميركية في تقييمها للتهديدات الداخلية لعام 2024 بأن الجهات الرقمية من المرجح أن تستخدم الذكاء الاصطناعي في "تطوير أدوات جديدة لتمكين شن هجمات رقمية أوسع نطاقا وأكثر سرعة وكفاءة ومراوغة" على البنية التحتية الحساسة، بما في ذلك خطوط أنابيب النفط والغاز والسكك الحديدية.

- أوضحت الوزارة أن الصين وجهات معادية أخرى تطور تكنولوجيا ذكاء اصطناعي من شأنها تقويض الدفاعات الرقمية الأميركية، بما في ذلك برامج الذكاء الاصطناعي التوليدي التي تدعم هجمات البرمجيات الخبيثة.

- بينت "مايكروسوفت" في تقرير بفبراير أنها تعقبت جماعات تسلل إلكتروني تابعة للحكومتين الصينية والكورية الشمالية، بالإضافة إلى المخابرات الحربية الروسية والحرس الثوري الإيراني، في ظل محاولتها إحكام هجماتها عبر الإنترنت بالاستعانة بالنماذج اللغوية الكبيرة. حسب سكاي نيوز 

مفاهيم
العلم
الذكاء الصناعي
التكنولوجيا الذكية
شارك الموضوع :

اضافةتعليق

    تمت الاضافة بنجاح

    التعليقات

    آخر الإضافات للكاتب (ة):

    تقنية مبتكرة تمنح آباء الأطفال الخُدّج فرصة احتضانهم مبكرًا

    تقنية مبتكرة تمنح آباء الأطفال الخُدّج فرصة احتضانهم مبكرًا

    الخميس 19 تشرين الثاني 2026/
    قبل استقبال المولود الجديد.. لقاحات ضرورية لحماية الأحفاد من العدوى

    قبل استقبال المولود الجديد.. لقاحات ضرورية لحماية الأحفاد من العدوى

    الأربعاء 18 تشرين الثاني 2026/
    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد

    عطل مايكروسوفت يكشف مخاطر الاعتماد على مزود رقمي واحد

    الثلاثاء 17 تشرين الثاني 2026/
    انخفاض ضغط الدم.. متى يصبح خطرًا على الصحة وكيف يمكن التعامل معه؟

    انخفاض ضغط الدم.. متى يصبح خطرًا على الصحة وكيف يمكن التعامل معه؟

    الأثنين 16 تشرين الثاني 2026/
    الوجبات السريعة تهدد صحة الدماغ بصمت.. دراسة تكشف مخاطر غير متوقعة

    الوجبات السريعة تهدد صحة الدماغ بصمت.. دراسة تكشف مخاطر غير متوقعة

    الأحد 15 تشرين الثاني 2026/
    ألم الكعب عند الاستيقاظ.. ما أسبابه وكيف يمكن علاجه؟

    ألم الكعب عند الاستيقاظ.. ما أسبابه وكيف يمكن علاجه؟

    السبت 14 تشرين الثاني 2026/

    آخر الاضافات

    ثقافة التعظيم.. في كلمة العام 2026 (maximizing)

    من الفضاء المشترك إلى العمارة المعادية

    رحلة إلى أعماق النفس… من المعرفة إلى النجاة

    تقنية مبتكرة تمنح آباء الأطفال الخُدّج فرصة احتضانهم مبكرًا

    في مَحْضَرِ الوالِد: من خواطر كريمة آية الله السيد محمد رضا الشيرازي (2)

    الأسبوع العالمي للتوعية بالمضادات الحيوية تحت شعار (صحة واحد.. خطوة واحدة)

    من الاحتجاج إلى المواجهة.. الجذور النفسية لغضب جيل زد

    قبل استقبال المولود الجديد.. لقاحات ضرورية لحماية الأحفاد من العدوى

    آخر القراءات

    كيف تتحقق الهداية؟

    النشر : الخميس 09 ايلول 2021
    اخر قراءة : منذ 41 دقيقة

    الأحمق الساكت يحسب مع الحكماء

    النشر : الأحد 04 ايلول 2022
    اخر قراءة : منذ 42 دقيقة

    رحلة الحنين للماضي: حين تُعيدنا الخوارزميات إلى دفئ الأمس

    النشر : الأحد 13 ايلول 2026
    اخر قراءة : منذ 42 دقيقة

    اترك العالم وغيّر نفسك

    النشر : الأثنين 28 كانون الثاني 2019
    اخر قراءة : منذ 42 دقيقة

    تربية المراهقين وفق ضوابط رسالة الحقوق

    النشر : الأحد 13 آب 2023
    اخر قراءة : منذ 42 دقيقة

    الحب بوابة التعلّم: كيف تؤثر لغة الوالدين في دافعية الطفل ونجاحه؟

    النشر : الخميس 15 تشرين الاول 2026
    اخر قراءة : منذ 42 دقيقة

    الأكثر قراءة

    • اسبوع
    • شهر

    عتمة الكون يوم استشهاد البتول: سيرة النور والوفاء

    • 777 مشاهدات

    من محراب فاطمة إلى مائدة الإيثار: قراءة في فلسفة العطاء

    • 473 مشاهدات

    لماذا خافوا من بكاء السيدة الزهراء؟

    • 334 مشاهدات

    الوجبات السريعة تهدد صحة الدماغ بصمت.. دراسة تكشف مخاطر غير متوقعة

    • 327 مشاهدات

    أحزان البتول

    • 319 مشاهدات

    مظلومية الزهراء محور العدالة المنتظرة

    • 313 مشاهدات

    تحت غطاء الكوميديا.. خوارزميات التسطيح وتجريف الأخلاق عبر فصوع وأبو صبرية

    • 7447 مشاهدات

    المرأة وصناعة الأثر.. الزهراء عليها السلام نموذجًا

    • 1406 مشاهدات

    من يملك وقتك؟

    • 1239 مشاهدات

    الجرح الذي لا يبرأ: الأبعاد الفكرية والتأسيسية لشهادة الصديقة الكبرى وتوصيات للشباب

    • 1122 مشاهدات

    من سبيستون إلى يوتيوب: كيف تغيّر عالم الطفل؟

    • 1026 مشاهدات

    عتمة الكون يوم استشهاد البتول: سيرة النور والوفاء

    • 777 مشاهدات

    facebook

    Tweets
    صفحة للمرآة العربية تهتم بالفكر والثقافة والصحة والعلم

    الأبواب

    • اسلاميات
    • حقوق
    • علاقات زوجية
    • تطوير
    • ثقافة
    • اعلام
    • منوعات
    • صحة وعلوم
    • تربية
    • خواطر

    اهم المواضيع

    ثقافة التعظيم.. في كلمة العام 2026 (maximizing)
    • الخميس 19 تشرين الثاني 2026
    من الفضاء المشترك إلى العمارة المعادية
    • الخميس 19 تشرين الثاني 2026
    رحلة إلى أعماق النفس… من المعرفة إلى النجاة
    • الخميس 19 تشرين الثاني 2026
    تقنية مبتكرة تمنح آباء الأطفال الخُدّج فرصة احتضانهم مبكرًا
    • الخميس 19 تشرين الثاني 2026

    0

    المشاهدات

    0

    المواضيع

    اخر الاضافات
    راسلونا
    Copyrights © 1999 All Rights Reserved by annabaa @ 2026
    2026 @ بشرى حياة