قامت أوبن أيه آي Openai المستحوذ عليها بنسبة كبيرة من شركة مايكروسوفت، بالاعلان عن أنها سوف تقوم بتقييم نماذج الذكاء الاصطناعي لديها، لتحقيق الحماية ضد المخاطر المدمرة كارثية المحتملة.
وسوف يقود مدير مركز إم أي تي MIT للتعلم الآلي هذا التحقيق ضد الهجمات، لمنع توليد الاكواد الخبيثة، وسوف يتم الدراسة لبعض الفئات مثل التهديدات الكيميائية والبيولوجية والإشعاعية والنووية، حيث أن تلك المجالات تهم الجميع وهي على أعلى مستوى من الخطورة.
الرئيس التنفيذي لشركة أوبن أيه آي سام التمان Sam Altman يعتقد أن هناك مخاوف بسبب الاقتناع الشخصي بأن الذكاء الاصطناعي قد يؤدي إلى انقراض البشرية (وهذا مستحيل طبعا) وهو يكرس الموارد لدراسة السيناريوهات التشاؤمية التي تشبه روايات الخيال العلمي.
جائزة شركة أوبن أيه آي
وقد اعلنت الشركة عن جائزة لأبحاث ودراسات عن هذه المخاطر على المجتمع، مع جائزة قدرها 25000 دولار أمريكي ووظيفة في شركة بري بيردنس Preparationness على الإنترنت لأفضل عشرة طلبات مقدمة.
المخاطر المحتملة للذكاء الاصطناعي
من المخاطر الممكن حدوثها في حالة منح أي أحد إمكانية الوصول غير المقيدة إلى OpenAI’s Whisper (transcription)، وتحويل الصوت إلى نص أو العكس وشات جي بي تي الإصدار الرابع GPT-4V ، ودالي ثلاثة Dalle، وكنت شخص سيئ فما الذي سيحدث من كوارث عند استخدام هذه النماذج.
الفريق الذي سوف يقوم بهذه الأبحاث سيتم إعداده جيدا وسيوضح له السياسة الأمنية والتوعية بالمخاطر وتفاصيل منهج شركة أوبن أيه آي لبناء نموذج الذكاء الاصطناعى وأدوات المراقبة له، وإجراءات تقليل المخاطر للشركة وهيكل الحوكمة للرقابة عبر نموذج التطوير والعمليات التي تتم عليه، وطبعا الهدف هو استكمال أعمال الحماية في مجال السلامة مع الذكاء الاصطناعي.
مستقبل الذكاء الاصطناعي
وتقول الشركة أنهم في المستقبل ومع نماذج الذكاء الاصطناعي، سيكون هناك تجاوز للقدرات الموجودة حاليًا ونماذج أكثر تقدماً، وبالتالي فسوف يكون لديك القدرة على الاستفادة بشكل اكبر ولكن سيشكل ذلك ايضا مخاطر متزايدة، لهذا فيجب ان نتأكد من أن لدينا الفهم والبنية التحتية اللازمة لسلامة أنظمة الذكاء الاصطناعى ذات القدرة الفائقة.
سوف يشكل فريق الدراسة والتوجيه ببحث أشكال الذكاء الاصطناعي والسيطرة عليها مثل Superintelligent، ويعتقد التمانوأيضا إيليا سوتسكفر كبير العلماء في أوبن أيه آي Openai والمؤسس المشارك أن الذكاء الاصطناعى سوف يتجاوز ذكاء البشر خلال عقد، وأن هذا الذكاء الاصطناعي لن يكون بالضرورة صالح لهذا فيجب البحث عن طرق للحد من ذلك وتقييده لمنع أي مخاطر.
المصدر