وورلد برس عربي logo

أمودي يتعهد بإبطاء الذكاء الاصطناعي لضمان سلامته

مع ظهور Anthropic في وول ستريت، تعهّد داريو أمودي بإبطاء تدريب الذكاء الاصطناعي ونشره حتى يطمئن إلى سلامته وبقائه تحت سيطرة البشر. ويرى أن Claude قد يسرّع الاكتشافات الطبية، لكنه يحذّر من مخاطر التقنية.

داريو أمودي يلقي كلمة أمام منصة ناسداك خلال الظهور الأول لشركة Anthropic في وول ستريت.
مصدر الصورة: CHARLY TRIBALLEAU / Contributor / Getty Images
التصنيف:تكنولوجيا
شارك الخبر:
FacebookTwitterLinkedInEmail

تعهّد الرئيس التنفيذي لشركة Anthropic، داريو أمودي، بأن تبطئ الشركة تدريب أنظمة الذكاء الاصطناعي وطرحها ما دام ذلك لازماً حتى تطمئن إلى سلامتها، وبأن تُبقيها تحت سيطرة البشر، وألا ترضخ لضغوط تجارية أو سياسية. جاء ذلك في كلمة ألقاها قبل جرس افتتاح ناسداك يوم الخميس، حين ظهرت الشركة لأول مرة في وول ستريت في اكتتاب وُصف بأنه الأكبر في التاريخ.

وقال أمودي: «ولأقولها بوضوح لا لبس فيه، سنُبطئ وتيرة تدريب أنظمة الذكاء الاصطناعي ونشرها، ونأخذ من الوقت ما يلزم حتى نثق بأنها آمنة وأنها ستبقى تحت السيطرة البشرية، ولن نرضخ لضغوط الأعمال ولا للضغوط السياسية».

وربط أمودي الاكتتاب نفسه بهذا الالتزام، فقال: «اليوم يضع الشركة في موقع مالي أقوى، وهو بذلك يزيد عزمنا على فعل الصواب فحسب. وإذا استطعنا أن نُظهر أن بالإمكان اتخاذ الخيارات الصحيحة في السلامة وبناء شركة ناجحة نجاحاً هائلاً في الوقت نفسه، فسيُلهم ذلك آخرين في قطاعنا ليفعلوا الشيء نفسه. نحن نسمّي هذا سباقاً نحو القمة».

لماذا بدأ أمودي كلمته بوفاة والده؟

لم يفتتح أمودي كلمته بالأرقام أو بالسوق، بل بقصة شخصية. فقد شكر شقيقته دانييلا أمودي، المؤسِّسة المشاركة في الشركة، ثم قال: «شكراً دانييلا. أنا وشركائي المؤسسون أسسنا Anthropic لأننا نؤمن بأن أقوى تقنية في عصرنا ينبغي أن تُبنى لما فيه نفع البشرية. فقدتُ أنا ودانييلا والدنا بسبب مرض أصبح قابلاً للشفاء بعد سنوات قليلة فقط. بدأت مسيرتي في علم الأحياء على أمل أن أساعد في تقريب موعد العلاجات المقبلة. وفي المختبر رأيتُ غابة التعقيد الكثيفة التي يواجهها العلماء وهم يحاولون فهم المرض وتطوير علاجات جديدة. وكثير من الأدوات العلمية القادرة على شقّ طريق وسط هذه الغابة، من أدوات تحرير الجينات وأدوات تركيب الجينات إلى أدوات التحكم في خلايا الدماغ بالضوء، بدأت أفكاراً خالصة. أي أنها جاءت من التفكير، من الذكاء».

ومن هنا انتقل إلى حجته الأساسية، فقال: «لقد جعل الذكاء البشري أمراضاً مثل الطاعون والجدري وشلل الأطفال من التاريخ في معظم أنحاء العالم. لكن التقدم في أمراض أخرى كان بطيئاً أكثر مما ينبغي بالنسبة إلى كثير من المرضى وأسرهم. والانتقال من فكرة عظيمة إلى علاج قد يستغرق عقوداً. فقد مرّت سنوات طويلة بين أول اكتشاف لنمط غريب متكرر في الحمض النووي والموافقة على أول علاج لمرض باستخدام كريسبر (CRISPR). الطبيعة مليئة بمثل هذه الأنماط، لكن ما توافر لنا من الذكاء كان أقل من أن يفكّ شفرة معظمها. علماء قليلون جداً ووقت قليل جداً. أما الآن فيمكننا بناء هذا الذكاء».

ويقول أمودي إن العلماء يستخدمون Claude، مساعد الذكاء الاصطناعي من Anthropic، في مجالات منها طيّ البروتينات وتصميم الأدوية وجينات السرطان وإدارة التجارب السريرية. وأضاف: «يجد علماء في مجالات كثيرة من الأحياء والطب أن Claude يساعدهم على إجراء أبحاثهم في جزء من الوقت الذي كان سيلزمهم قبل عامين فحسب. وأعتقد أن ذكاءً اصطناعياً قوياً بما يكفي، يعمل بالتعاون مع البشر، قد يضغط قرناً من التقدم العلمي والطبي في عقد واحد».

وهذه توقعات تعبّر عن رؤية قائلها، وهو نفسه يقرّ بحدودها: «لا أريد أن أسبق الأحداث. في هذه المرحلة كل ما لدينا نتائج أولية. ستظل التجارب والتجارب السريرية تستغرق وقتاً، ومع أنها عمليات بطيئة وثقيلة، أعتقد أنه يمكن تسريعها بدرجة كبيرة بالذكاء الاصطناعي. نأمل أن تفوّت أسر أقل في المستقبل العلاج بسنوات قليلة».

ولم يقصر أمودي حديثه على الطب، إذ قال: «الطب مجرد مثال بالغ الوضوح، فهناك تطبيقات كثيرة أخرى لـ Claude. عملاؤنا، من أكثر الشركات طموحاً والمنظمات غير الربحية والأفراد، يطبّقون بالفعل الذكاء الذي بنيناه لتحفيز النمو الاقتصادي وانتشال الناس من الفقر وحماية الديمقراطية والمجتمعات الحرة، بل وتحسين عمل خدمات يومية مثل خدمات DMV. نفخر بالعمل إلى جانبهم، وأنا متفائل للغاية بما يمكننا فعله معاً في المستقبل». وDMV هي الجهة الأمريكية المعنية بخدمات المركبات.

كيف تصف Anthropic المخاطر، وماذا تقول إنها تفعل حيالها؟

بعد هذا العرض المتفائل، انتقل أمودي إلى الجانب الآخر. وتتناول مقابلة أخرى أُجريت معه، نُشرت على موقع CBS News، حديث داريو أمودي عن مخاطر الذكاء الاصطناعي. أما في كلمة الاكتتاب فقال: «لكننا كنا دائماً صريحين في أن لهذه التقنية مخاطر حقيقية للغاية. وهي تتراوح بين إساءة استخدامها من أفراد أو دول، والاضطراب الاقتصادي، وفقدان السيطرة على أنظمة الذكاء الاصطناعي».

وأكد أن هذه المخاطر ليست قدراً محتوماً: «نحن نتحدث عن هذه المخاطر لا لأننا نعتقد أنها حتمية ونمضي في البناء رغم ذلك، بل لأننا نعتقد أنها قابلة للتجنب ويمكننا تجنبها. وتجنبها يتوقف على الخيارات التي يتخذها من يبنون الذكاء الاصطناعي. هناك فارق هائل بين مسار الذكاء الاصطناعي إن أعرنا السلامة اهتماماً ضئيلاً ومساره إن كنا مهووسين بها».

وعن سجلّ الشركة في هذا المجال قال أمودي: «وقد ترسّخ الهوس بالسلامة والنفع العام في جينات Anthropic منذ البداية، من ضمانات الحماية من المخاطر البيولوجية والسيبرانية، إلى التدريب على المواءمة (Alignment) والاختبار، إلى النظر داخل نماذجنا كما بالأشعة السينية. وقد كانت Anthropic رائدة في طرق فهم سلوك الذكاء الاصطناعي وتوجيهه وإبقائه تحت السيطرة البشرية». وهذا وصف من الشركة لأعمالها، لا نتيجة تقييم مستقل.

ولم يقدّم أمودي هذا السجل بوصفه عملاً منجزاً. فقد قال: «ما زال أمامنا عمل كثير، وأصعب أعمال السلامة ما زال أمامنا. والموهبة الاستثنائية في الشركة التي مكّنتنا من بناء أكثر أنظمة الذكاء الاصطناعي قدرة ستحتاج إلى أن توجَّه أكثر مما وُجّهت حتى الآن نحو التحقق مرتين وثلاث مرات من أن هذه الأنظمة آمنة وتبقى تحت السيطرة البشرية». وأضاف أن الشركة ستواصل الاستثمار في المواءمة والاختبار وفهم سلوك الذكاء الاصطناعي.

ما معنى «السباق نحو القمة»؟

يقدّم أمودي هذا المفهوم بوصفه الجانب الصناعي من تعهده: شركات تتنافس وهي تبني بأمان. وقال: «حين يعمل السباق نحو القمة كما ينبغي، لا يهم أي شركة تملك أفضل النماذج. يفوز الجميع لأن الجميع يبني بأمان. ويؤتي هذا السباق أفضل ثماره حين يُقاد من مقدمة الصف، ونأمل ونتوقع أن نقوده. لكن الهدف تحسين الصناعة كلها، سواء كانت Anthropic تتقدم أم تتأخر في أي لحظة». وختم بقوله: «إن ظهور ذكاء الآلة من اللحظات المفصلية في تاريخ البشرية، ولدينا فرصة نادرة لنصوغه نحو الأفضل».

وكان أمودي قد عرض في سبتمبر خطة لضبط وتيرة تطوير الذكاء الاصطناعي، تقوم على تنسيق معايير السلامة مع الشركات الرائدة، وعلى أن تتحقق جهات تقييم مستقلة من التزامات الشركات في هذا المجال. وتناولت صحيفة The Guardian موقف قادة الذكاء الاصطناعي من إبطاء التطوير لأجل السلامة. وقال سام ألتمان، الرئيس التنفيذي لـ OpenAI، وديميس هاسابيس، رئيس Google DeepMind، وإيلون ماسك، مالك xAI، إنهم يتفقون مع موقف أمودي. غير أن هذا التوافق المعلن لم تتبعه التزامات عملية تُذكر.

وفي اليوم نفسه، تحدثت دانييلا أمودي وقالت إن المخاطر حقيقية، وإن وعد الذكاء الاصطناعي «مذهل». وأضافت: «لقد تأسسنا فعلاً على فكرة أن مهمتنا هي الحدّ من هذه المخاطر، وأعتقد أننا أدينا حتى اليوم عملاً مذهلاً في ذلك. من الواضح أن أمامنا عملاً أكثر، لكننا ملتزمون بعمق بالسلامة».

يبقى السؤال المفتوح هو ما إذا كان تعهد الخميس سيتحول إلى التزامات يمكن قياسها. فقد قيل إن الاكتتاب يعزز قدرة Anthropic المالية، ويضعها الآن أمام جمهور المستثمرين، بينما بقيت خطة أمودي لتنسيق المعايير والتقييم المستقل، رغم تأييد ألتمان وهاسابيس وماسك المعلن لها، بلا خطوات ملموسة تُذكر حتى الآن.

أخبار ذات صلة

Loading...
جنسن هوانغ يتحدث في المنتدى الاقتصادي العالمي وسط نقاشات حول قيود Nvidia على بيع رقائق H200 في الصين.

Nvidia بين قيدين: الصين والقيادة

أعلنت Nvidia وقف بيع رقائق H200 في الصين وإغلاق الوصول عن بُعد إليها، فيما قال مسؤولون تنفيذيون إنها لا تخطط لعودة رئيسها التنفيذي السابق جنسن هوانغ.
تكنولوجيا
Loading...
إصبع يقترب من أيقونة تطبيق Signal على هاتف، وسط تطبيقات أخرى، مع تشديد التطبيق قيود لقطات الشاشة لحماية الخصوصية.

Signal تقيّد لقطات الشاشة لمواجهة "تهديد وجودي" من وكلاء الذكاء الاصطناعي

أعلنت Signal الجمعة تقييد لقطات الشاشة على أندرويد وiOS، مثل ويندوز، بسبب وكلاء الذكاء الاصطناعي المدمجين في أنظمة التشغيل، ووصفت رئيستها الإجراء بأنه حل غير مكتمل.
تكنولوجيا
Loading...
تلتقط أذرع برج الإطلاق في Starbase السفينة Ship 42، المرحلة العليا من Starship، بعد عودتها من المدار.

SpaceX ستحيل أول مرحلة علوية التقطتها بدل إعادة إطلاقها

قررت SpaceX عدم إعادة إطلاق Ship 42، أول مرحلة علوية من Starship تنجح في استعادتها، والإبقاء عليها للعرض العام، وقال ماسك إن ذلك لتجنب المخاطرة بها.
تكنولوجيا
Loading...
سيارة كهربائية فوق لوحة شحن لاسلكي، مع توضيح ملف الاستقبال ووحدات النطاق فائق العرض لتحديد موضعها بدقة.

نظام جديد قد يجعل شحن السيارات الكهربائية لاسلكياً أكثر كفاءة

طوّر باحثون في اليابان نظاماً راديوياً لمحاذاة ملف شحن السيارة الكهربائية لاسلكياً، وبلغ خطأ تحديد موضعه 2.32 مليمتر في اختبار مخبري على نموذج مصغّر، ولم يُختبر خارج المختبر أو على سيارات كاملة الحجم.
تكنولوجيا
الرئيسيةأخبارسياسةأعمالرياضةالعالمعلومصحةتسلية