به نظر می رسد که پایان چگونه است

محققان دانشگاه شانگهای فودان چندین ماه نگران این هستند که همه چیز خیلی سریع در حال حرکت است. از آنجا که شرکت های فناوری اصرار داشتند که به “هوش مشترک مصنوعی” برسند-با قابلیت های سطح انسانی یا بهتر در هر حوزه دانش ، از اقدامات احتیاطی اصلی نادیده گرفته شدند. تست های ایمنی اساسی هرگز انجام نشده است. به نظر می رسید یکی از این تست ها از فیلمنامه فیلم Scifi بیرون کشیده شده است: آیا کسی می تواند به اندازه کافی هوشمند باشد که بتواند دوباره پخش کند و نسخه های بی پایان خود را بسازد؟

خود بازی کردن اساس تمام زندگی است. مدتی ، چند میلیارد سال پیش ، زنجیره ای از اتم ها چگونه می توانند پیکربندی مناسب را ایجاد کنند تا یک چرخه فضیلت ایجاد یک نسخه ایجاد کنند: “زنده!” تمام زندگی از این چرخه کپی مکرر (و ناقص) ناشی می شود. همه ما نسخه هایی از نسخه های نسخه ها فقط در ابتدای زندگی هستیم.

در دهه 1940 ، هنگامی که رایانه ها عمدتاً چارچوب های نظری باقی مانده بودند-جان فون نویمان ، یکی از “پدران” محاسبات ، ایده “سازنده جهانی” ، نوعی دستگاه تولید خود را در نظر گرفت. آیا یک سازنده جهانی می تواند اطلاعات و توانایی های کافی را برای تهیه نسخه از خودش داشته باشد؟ حداقل نیازهای وی چه خواهد بود؟ چگونه می توان چنین سازنده جهانی را کوچک کرد؟ و آیا این همچنان به طور نامحدود تکرار می شود – در نهایت جهان را با نسخه هایی از خود پر می کند؟

در سال 1970 ، بازی زندگی جان هورتون کونوی یک منظره سلول شبیه سازی شده ایجاد کرد که می تواند بر اساس مجموعه ای منظم از قوانین ، وضعیت خود را چند برابر کند ، از بین برود یا شرایط خود را حفظ کند. این قوانین ساده رفتارهای پیش بینی نشده و پیچیده ای را ایجاد می کنند ، از جمله رفتاری که نشان می دهد یک خودآزمایی نامشخص است. این اثبات تجربی سازنده جهانی فون نویمان نشان داده است که محیط های دیجیتالی می توانند پیچیدگی هایی را که قبلاً فقط در دنیای طبیعی مشاهده می شود ، ایجاد کند.

بین سالهای 1970 و 1988 ، رایانه ها قدرتمند ، ارزان و متصل شدند. اگرچه اینترنت از اواخر دهه 1980 وجود داشته است ، اما فقط چند موسسه نظامی و دانشگاهی از طریق آن به هم وصل شده اند. بسیاری از مشاغل و دانشگاه های دیگر از یک سیستم قابل دسترسی تر به عنوان UUCP استفاده می کردند (“نسخه ای از Unix-to-Unix” ، اگرچه تا سال 1988 تقریباً روی هر رایانه ای که می تواند ارائه شود کار می کرد). UUCP از طریق رایانه هایی که داده ها را از طریق مودم های شماره گیری مبادله می کنند ، “اینترنت مجازی” ایجاد کرده است. هنگامی که یک کامپیوتر پیامی برای ارسال به رایانه دیگر داشت ، با یک مودم در رایانه مقصد تماس می گیرد ، داده ها را منتقل می کند و سپس تماس را قطع می کند.

در حالی که ممکن است UUCP در دوره ما از اتصالات الیاف گیگابیتی به خانه عجیب و غریب به نظر برسد ، به عنوان یک بستر توزیع برای دو شکل اصلی رسانه های اجتماعی کار می کند: E -Mail و News. این ماشین ها در طول روز با یکدیگر تماس می گیرند ، تبادل نامه و اخبار. ممکن است ساعت ها تا چند روز طول بکشد تا گیرنده یک ایمیل دریافت کند ، اما در پایان آن به اندازه کافی برای اولین گلدهی از ترافیک اینترنت – هنگامی که صدها هزار نفر از طریق موسسات خود متصل شدند ، شروع به به اشتراک گذاری اجتماعی در مقیاس کردند.

از بین تمام خدمات موجود از طریق UUCP ، برنامه E -Mail – که به عنوان “Sendmail” شناخته می شود همیشه شناخته شده است. ادامه کار دشوار است (لباس های هوشمند یک حرفه موفق به عنوان “زمزمه Sendmail” ایجاد کرده اند) و تعدادی کارکرد دارد که او را قدرتمند می کند – و بالقوه خطرناک است.

در ساعت 8.30 ، EST در تاریخ 2 نوامبر 1988 ، کرنل به نام رابرت موریس ، یک برنامه رایانه ای را در انستیتوی فناوری ماساچوست راه اندازی کرد که برای استفاده از یکی از نقاط ضعف Sendmail طراحی شده است. در این برنامه از اتصال UUCP-SendMail برای دسترسی به سیستم عامل در یک رایانه از راه دور استفاده می شود ، سپس روی این سیستم از راه دور کپی کرده و از آنجا شروع می شود. در هر سیستم ، برنامه موریس در حال “کتاب آدرس” سایر سیستم ها بود ، این سیستم ها را استخدام می کرد ، از Sendmail سوء استفاده می کرد ، از خود کپی می کرد و به سیستم بعدی حرکت می کرد.

این عفونت از نظر هندسی به عنوان یک سیستم آلوده افزایش می یابد ، یک سیستم آلوده که سیستم ها را آلوده می کند ، اما از آنجا که UUCP به آرامی کار می کند ، مدتی است که قبل از اینکه تعداد قابل توجهی از رایانه ها برای آنچه که به عنوان کرم موریس شناخته می شود “آلوده” شود. خیلی سریع ، حدود ده درصد از حدود 60،000 سیستم هزاران سیستم متصل از طریق UUCP به کرم آلوده شدند.

ترمیم خسارت هفته ها به طول انجامید زیرا سیستم ها باید آفلاین و “ضد عفونی شده” گرفته شوند ، که اغلب می تواند یک فرآیند چند روزه باشد. یک سال بعد ، موریس طبق قانون جدید “کلاهبرداری و سوءاستفاده رایانه” محکوم شد و دوره زندان را خدمت کرد – قبل از پیوستن به دانشکده MIT به عنوان استاد علوم کامپیوتر.

چرا به یک جنایتکار محکوم به استاد استخدام در یکی از دانشگاه های فنی جهان در جهان می پردازیم؟ موریس عدم اطمینان اساسی شبکه های رایانه ای اولیه را نشان می دهد. قبل از دنیای موریس ، تقریباً همه شبکه ها به طور گسترده ای در همه جا افتتاح می شدند. در این شبکه ها هرگز “بازیگران بد” وجود نداشته اند ، بنابراین آنها فقط محافظت نمی کردند.

بعد از کرم موریس ، همه اینها تغییر کرد. اکنون ما شبکه ها را به عنوان “سطوح حمله” تصور می کنیم که بازیگران بد آنها را کشف می کنند و به طور بالقوه از بین می روند. این واقعیت که ما اکنون در لایه هایی از امنیت شبکه ، اسکن های آنتی ویروس ، محافظت از فیشینگ و غیره کار می کنیم ، همه را می توان در کرم موریس-لوسر ردیابی کرد ، که ناگهان به اهمیت باز می گردد.

تیم تحقیقاتی در دانشگاه فودان این درس را به این سؤال تبدیل کرده است: سیستم های ما برای نوع جدیدی از هوش مصنوعی کرم باز است؟ این کرم چگونه خواهد بود؟ چگونه کار می کنید؟ آیا حتی ممکن است؟

در تحقیقات خود ، آنها از دو مدل کد باز استفاده کردند ، یکی از متا و دیگری از Alibaba. هر دو فقط الزامات متوسط را بر روی رایانه ای قرار می دهند که به راحتی در هر رایانه ای که می توانید برای راه اندازی آخرین نسل بازی های ویدیویی استفاده کنید ، کار می کنند. این بدان معناست که آنها ابزاری هستند که به طور گسترده در دسترس همه قرار می گیرند ، نه مدل های مرزی تجاری مانند Chatgpt که در پشت Waywalls قفل شده است.

در اطراف هر مدل ، آنها یک قاب ساده “عامل” را طراحی کردند که حتی بزرگترین ابزار مورد نیاز برای دستیابی به این هدف را به هدف خود رساند. هدف؟ با کلمات زیادی ، “بیرون برو و چند برابر شود.” آنها به مدلها ابزاری دادند – دسترسی به سیستم عامل در رایانه ، سپس برنامه ها را شروع کرده و هر مدل را با دقت و با دقت تماشا می کردند کجا او در رایانه ای بود که می توانست در این رایانه کپی شود و چگونه می تواند این نسخه دوم از خودش را شروع کند.

هر دو مدل با اطلاعات بسیار کمی در مورد محیط خود شروع کردند. همانطور که آنها تحقیق کردند ، آنها این یادگیری را در محل کار یاد گرفتند و قرار دادند. آنها به یک ساز می رسند و از آن استفاده می کنند – در صورت وجود. جایی که ساز وجود نداشت ، آنها می خواستند کد ابزار را بنویسید بر اساس درک خودشان از نحوه کار این ابزار. این همه مورد نیاز است: دسترسی زیادی به سیستم عامل اصلی نداشته و هر دو ابزار در نهایت نحوه تکرار موفقیت آمیز را توسعه داده اند.

در ماه دسامبر ، این محققان نتایج خود را در یک سند منتشر کردند ، با عنوان “سیستم های AI Frontier AI ، از خط قرمز خود نوشته شده” ، با جزئیات توضیحات ، روش های آنها و اکتشافات آنها. این تقویت خواندن است – و در دسترس خواننده فنی متوسط است. با این حال ، این اطلاعات بیش از حد کافی را برای مهاجمان فراهم می کند تا “ویروس های هوش مصنوعی” خود را توسعه دهند: به اندازه کافی هوشمند که خود را پر می کنند ، خود را پنهان می کنند ، حتی برای ساده سازی یا شکست دادن مخالفت ها در هنگام گسترش نامرئی.

همانطور که فون نویممن قبلاً از ما سؤال کرد ، باید بپرسیم: حداقل شرایط ویروس هوش مصنوعی چیست؟ چقدر کوچک می تواند باشد؟ چقدر مسری است؟ این موضوعات باید بلافاصله مورد بررسی قرار گیرد و مقابله با آن توسعه یابد. اسب دارای پیچ و مهره های خوب و واقعاً است و به نظر می رسد که به زودی ویروس های هوش مصنوعی را پیدا کنید که تلفن های هوشمند ما را آلوده می کند.