بناء منظمة العفو الدولية مثل إطلاق صاروخ ‘: لقاء الرجل القتال لوقف الذكاء الاصطناعي تدمير البشرية

جان تالين؛ جارك جوبيرا / الاستثمارات الصوتية المحيطة؛ مع الذكاء الاصطناعي، وتيرة سريعة من البحوث وحجم فوائدها المحتملة يعني أن شركات التكنولوجيا تتحرك على نحو متزايد كامل البخار إلى الأمام دون النظر في المخاطر.

الذكاء الاصطناعي في سلة التسوق الخاصة بك: تعلم آلة لتجار التجزئة على الانترنت؛ النهوض الذكاء الاصطناعي: مايكروسوفت تنشر كورجيس للتغلب على جوجل على التصوير؛ هل الذكاء الاصطناعي تصميم موقعك؟ وتأمل الشبكة ذلك

في بداية هذا العام، تبرع إلون موسك، خالق تسلا و سباسكس، 10 ملايين دولار لمعهد مستقبل الحياة لتمويل برنامج بحثي عالمي يهدف إلى التأكد من أن منظمة العفو الدولية تعود بالفائدة على الجنس البشري. المعهد هو منظمة بحثية والتوعية تديرها شارك في تأسيسها في مارس من العام الماضي جان تالين، واحدة من رجال الأعمال التكنولوجيا استونية الأكثر شهرة لدوره كمهندس تأسيس سكايب وكازا.

ويركز معهد منطقة بوسطن على البحث في المخاطر المحتملة من تطوير الذكاء الاصطناعي على مستوى الإنسان، وتشمل أعضاء المجلس الاستشاري العلمي ستيفن هوكينغ، إيلون موسك، والعديد من الأساتذة من الجامعات بما في ذلك معهد ماساتشوستس للتكنولوجيا، أكسفورد، جامعة كاليفورنيا في بيركلي، و كامبريدج، من بين خبراء آخرين.

الأمن؛ البيت الأبيض يعين أول رئيس أمن المعلومات الاتحادية؛ الأمن؛ انتقد البنتاغون للاستجابة السيبرانية في حالات الطوارئ من قبل الوكالة الحكومية الدولية؛ الأمن؛ كروم لبدء وضع العلامات على اتصالات هتب غير آمنة؛ الأمن؛ مشروع هايبرلدجر ينمو مثل غانغبوستيرس

وقال تالين في وقت استثمار المسك: “إن بناء الذكاء الاصطناعى المتقدم يشبه إطلاق الصاروخ، والتحدي الأول هو تحقيق أقصى قدر من التسارع، ولكن بمجرد أن يبدأ التقاط السرعة، تحتاج أيضا إلى التركيز على القيادة”.

وقال تالين للموقع أنه بفضل ما يقرب من عقد من الخبرة في صناعة الألعاب، وقال انه كان دائما مهتما في الذكاء الاصطناعي، ولكن اهتمامه في ضمان سلامة التكنولوجيا هو تطور أحدث.

مؤسس سباس اكس ايلون موسك، الفيزيائي ستيفن هوكينج، ومختلف الباحثين منظمة العفو الدولية مرة أخرى رسالة مفتوحة تدعو المجتمعات للتحضير للتحديات سوف تشكل منظمة العفو الدولية للبشرية.

في عام 1986 في 16 فقط، بدأ حياته المهنية كتابة البرامج لشركة محلية تجميع أجهزة الكمبيوتر ثمانية بت لاستخدامها في المدارس العامة. بعد ثلاث سنوات أصبحت تالين تشارك في إنشاء كوسمونوت، أول لعبة كمبيوتر إستونية ليتم نشرها خارج البلاد، وفي عام 1993 شارك في تأسيس بليمون سوفتوار، الذي أنشأ وطور بروتوكول P2P فاستراك وتطبيق تقاسم الموسيقى المعروفة كازا الذي استخدمه.

بعد ذلك، جنبا إلى جنب مع زملائه بليمون المؤسسين آهتي هينلا و بريت كيسيسالو، ساعدت تالين خلق البرمجيات ل سكايب، وذلك باستخدام الخلفية كازا.

في السنوات الأخيرة، نمت اهتماماته في مختلف مجالات التكنولوجيا الناشئة. على سبيل المثال، شارك في تأسيس شركة الاستشارات الطبية الشخصية ميتامد في عام 2012 وكان مستثمرا مبكرا في شركة الذكاء الاصطناعي ديبميند تكنولوجيز، والتي تم الحصول عليها من قبل جوجل في العام الماضي لحوالي 650m $.

كما شارك في تأسيس منظمتين تدرسان مخاطر منظمة العفو الدولية على البشر: إلى جانب معهد مستقبل الحياة، ساعد في تأسيس مركز كامبريدج لدراسة المخاطر الموجودة (سسر) مع أساتذة كامبريدج هوو برايس ومارتن ريس.

إن التكنولوجيا وأثرها على مستقبل البشرية كان دائما مثيرا له.

منذ سنوات عديدة، كنت أتبع ودعم ما يسمى “النظام الإيكولوجي المعرض للخطر”، حيث تحاول منظمات مختلفة خفض “المخاطر الوجودية” من التكنولوجيا “. بدأ معهد مستقبل الحياة بعد [عالم الكونيات] ماكس انتهى تيغمارك كتابه وقال إنه يريد أن يفعل شيئا مهما مع الوقت الذي تم الإفراج عنه نتيجة لذلك. منذ أن عرفت ماكس كشخص قادر جدا، قررت على الفور للانضمام ودعم مشروعه “، وقال تالين.

تالين مهتمة في معظمها “مشكلة السيطرة”: معرفة كيفية التنبؤ و / أو تقيد بقوة النظم الذكية الذكية. يقول: “إنها واحدة من أكثر المشاكل تحديا في هذا المجال، كما أنها غير متدنية تماما”.

وفقا لتالين، تواجه البشرية عددا من المخاطر المختلفة المستمدة من التطور السريع لمنظمة العفو الدولية، وانها ليست مجرد التفرد التكنولوجي التي ينبغي أن تهمنا.

“إذا عدنا التريليونات المحتملة من حياة الناس الذين لم يولدوا بعد (كما ينبغي، أعتقد)، فإن المخاطر الوجودية تهيمن تماما على كل شيء آخر، وإذا كنا نعول فقط حياة الناس بالفعل على قيد الحياة، ثم هناك تحديات أخرى، مثل لأن الأنظمة الذكية تعطل سوق العمل “.

ويعتقد أنه على الرغم من أننا ما زلنا لا يمكن التنبؤ متى بالضبط اختراق في التفرد سوف تحدث، يجب أن نكون مستعدين مع ذلك إذا ومتى يحدث ذلك.

“وتشير العديد من الدراسات الاستقصائية لخبراء منظمة العفو الدولية إلى احتمال 50 في المئة من الإنسان أو سوبر أي منظمة العفو الدولية بحلول منتصف هذا القرن، وبطبيعة الحال، فإن هذه المسوحات ليست التنبؤات يمكن الاعتماد عليها، ولكن كونها غير مؤكدة حول حدث في المستقبل المهم ليست سببا للرضا عن النفس إما ،” هو قال.

ويعتقد تالين أن القواعد والاتفاقات المتعلقة بتطوير الذكاء الاصطناعى يجب أن تنبثق من الصناعة وليس من المؤسسات السياسية الدولية.

“لم أر أي مؤشر على أن واضعي السياسات يفهمون مشاكل سلامة منظمة العفو الدولية، لذلك من المؤكد أن التنظيم سيضر أكثر مما هو جيد في هذه المرحلة.وأعتقد أنه من المهم أن تصل أولا إلى توافق في الآراء داخل صناعة الذكاء الاصطناعي حول السياسات واللوائح المحتملة ،” هو قال.

تتوقع تالين التطور الكبير القادم في منظمة العفو الدولية أن المستهلكين سوف تشهد في حياتهم اليومية لتكون السيارات ذاتية القيادة.

وقال “سيكون التغيير كبيرا بمجرد وصولهم، بسبب الآثار المتتالية سيكون لديهم على الاقتصاد، وربما أيضا أكثر قليلا على طول – منظمة العفو الدولية بمساعدة الواقع المعزز ربما ستكون ضخمة”.

الذكاء الاصطناعي

البيت الأبيض يعين أول رئيس أمن المعلومات الاتحادية

انتقد البنتاغون للاستجابة السيبرانية في حالات الطوارئ من قبل الوكالة الحكومية الدولية

يبدأ كروم في تصنيف اتصالات هتب على أنها غير آمنة

مشروع هايبرلدجر ينمو مثل غانغبوستيرس

Refluso Acido