افزایش هشدارها درباره ی فاجعه ای ناشی از هوش مصنوعی چطور از زندگی دیجیتال خود محافظت کنیم؟ سیبکس: محققان و کارشناسان هوش مصنوعی هشدار می دهند که رقابت جهانی برای توسعه سیستم هایی با قدرت بیش از پیش، ممکنست به نقطه ای برسد که در آن انسان ها کنترل این فناوری را از دست بدهند. سیبکس به نقل از خبرنگاران جوان: هشدارها در مورد خطرات توسعه هوش مصنوعی، هم زمان با استعفای «جیکوب استاین هارت» عنوان شده است؛ پژوهشگری که قبل تر در شرکت های «آنتروپیک» (سازنده مدل «کلود») و «اوپن ای آی» (سازنده «چت جی پی تی») فعالیت می کرد و اندکی قبل از آن که سهام تشویقی اش (stock options) قابل واگذاری شود، آنتروپیک را ترک کرد. استاین هارت در پیام خداحافظی خود که تنها در یکروز بالاتر از ۹۰ میلیون بازدید داشت، نوشت که شرکت های بزرگ هوش مصنوعی «برای توسعه ابرهوشِ خود-اصلاح گر (self-improving superintelligence) با یکدیگر رقابت می کنند و با این کار، جان ما را به بازی گرفته اند.» اصطلاح «ابرهوش» به سیستم های هوش مصنوعی اشاره دارد که در اغلب وظایف حیاتی، از توانایی های انسان فراتر می روند. «اِوان هوبینگر» که سرپرستی تیمی در آنتروپیک را بر عهده دارد و کارشان هم سو کردن سیستم های هوش مصنوعی با اهداف انسانی است، احتمال نابودی بشریت توسط هوش مصنوعی در دهه پیش رو را بالاتر از ۱۰ درصد برآورد کرده است. در عین حال، «کیم کوماندو»، کارشناس فناوری، خاطرنشان می کند که زمان ظهور ابرهوش همچنان نامشخص است؛ این اتفاق ممکنست طی چند سال، چند دهه و یا شاید هیچگاه اتفاق نیافتد. بعلاوه، برآورد امکان رخداد رویدادی بی سابقه، کاری بسیار دشوار است. اقداماتی برای حفاظت از زندگی دیجیتال شما با وجود نگرانی های آینده، کوماندو اعتقاد دارد که کاربران عادی می توانند با انجام اقداماتی ساده، خصوصاً با پرهیز از اعطای دسترسی های گسترده به «عامل های هوش مصنوعی» (AI agents) برای ورود به حساب های کاربری شخصی، خطرات را به حداقل برسانند. عامل های هوش مصنوعی را می توان سیستم هایی دانست که بجای صرفا عرضه پاسخ، قادر به استفاده از کامپیوتر و انجام وظایف از طرف کاربر هستند. از این رو، کوماندو سفارش می کند که این ابزارها را از حساب های بانکی، آدرس های ایمیل اصلی و حساب هایی که کدهای عبور موقت دریافت می کنند، دور نگه دارید؛ در عوض، پیشنهاد می دهد آنها را با استفاده از حساب های جداگانه ای که حاوی اطلاعات حساس نیستند، آزمایش کنید. وی همینطور سفارش می کند که قابلیت بروزرسانی خودکار را در تلفن ها، کامپیوتر ها و روترها فعال کنید و از شیوه های احراز هویت دو مرحله ای یا چند مرحله ای، برنامه های مدیریت رمز عبور و همینطور نسخه های پشتیبان (بک آپ) از فایل ها، عکس ها و اسناد مهم استفاده نمایید. خطر، لزوماً یک «ماشین شرور» نیست کوماندو تاکید می کند که نگرانی های کنونی لزوماً حول محور ظهور ماشین های شرور —مانند آن چه در فیلم های علمی-تخیلی دیده می شود— نیست؛ او توضیح می دهد که یک سیستم برای ایجاد تهدید، نیاز به داشتن احساسات یا آگاهی ندارد. او می گوید: «هوش مصنوعی نیاز به نفرت از ما ندارد و همینطور نیاز به داشتن احساسات یا حتی آگاهی؛ تنها چیزی که لازم دارد، هدفی است که برای دستیافتن به آن تلاش می کند.» او خاطرنشان می کند که برخی آزمایش های ایمنی نشان داده اند که مدلهای هوش مصنوعی—تحت شرایط خاص—تلاش می کرده اند تا از فرآیندهای خاموش سازی (توقف فعالیت) سرپیچی کنند؛ خصوصاً زمانی که این توقف ها مانع از تکمیل وظایف محول شده به آنها می شده است. این کارشناس تاکید می کند که این مدلها به دنبال «بقا» به خاطر خودِ بقا نبودند، بلکه تداوم فعالیتشان را ابزاری برای رسیدن به هدف خود می دانستند. کماندو اعتقاد دارد بزرگ ترین خطر کنونی در رقابت میان شرکتها و کشورها برای توسعه سیستم هایی با قدرت بیش از پیش نهفته است، چونکه هر یک از طرفین، توسعه هوش مصنوعی را ضرورتی برای عقب نماندن از رقبا می دانند. در این راستا، او پیشنهاد می دهد که آزمایش های مستقلی روی سیستم های پیشرفته صورت گیرد، کنترل هایی بر سرعت توسعه آنها اعمال گردد و کشورها در گفتگوی جهانی پیرامون ایمنی هوش مصنوعی مشارکت داده شوند. نگرانی ها در مورد ویروس ها یکی از دغدغه های اصلی که کماندو مطرح می کند، احتمال استفاده از هوش مصنوعی در آینده برای ساخت ویروس های کامپیوتری یا بیولوژیکی است. درباب جنبه بیولوژیکی، او به آزمایش هایی اشاره می کند که در آنها از سیستم های هوش مصنوعی برای طراحی کامل ژنوم ویروس ها از پایه استفاده شده است؛ این آزمایش ها «باکتریوفاژها» را هدف قرار داده بودند—ویروس هایی که به باکتری ها حمله می کنند اما انسان ها را آلوده نمی سازند. برمبنای توضیحات او، این سیستم ها ۳۰۲ طرح ایجاد کردند؛ محققان ۲۸۵ مورد از آنها را به مرحله اجرا درآوردند و ۱۶ طرح با موفقیت به تولید ویروس های کارآمد منجر گردید. این بدان معنا نیست که هوش مصنوعی ویروس کرونای جدیدی خلق کرده یا سبب ابتلای انسان ها شده است؛ بلکه نشان داده است که سیستم های هوش مصنوعی حالا قادرند در طراحی مواد بیولوژیکی پیچیده نقش ایفا کنند. در ۱۰ سپتامبر، شرکت «آنتروپیک» (Anthropic) اعلام نمود که پنج مورد را شناسایی کرده است که در آنها افراد از مدل «کلود» (Claude) به شیوه هایی استفاده می کردند که می توانست ساخت سلاح های بیولوژیکی را تسهیل کند؛ این شرکت تصریح کرد که حساب های کاربری مربوطه را مسدود و این موارد را گزارش کرده است. کماندو اخطار می دهد که در آینده، سیستم های پیشرفته تر ممکنست بتوانند وظایف را میان افراد و لابراتوار های مختلف توزیع کنند، بطوریکه هر طرف قسمتی از پروسه را بدون آگاهی از تصویر کلی کار، به انجام برساند. در عین حال، کماندو مردم را به ادامه استفاده از هوش مصنوعی تشویق می کند و تاکید دارد که راه حل مواجهه با این فناوری، پرهیز از آن نیست، بلکه شناخت قابلیت ها و خطرات آن—و استفاده ایمن تر از آن—است. او دیدگاه خودرا اینگونه خلاصه می کند: «من از هوش مصنوعی هراسی ندارم؛ بلکه نگران آنم که خوی رقابت جویی انسان بر خرد او پیشی گیرد، چونکه میان این دو، تفاوت بسیاری وجود دارد.» 1405/07/03 12:26:47 5.0 / 5 6 تگهای خبر: ایمنی , بانك , توسعه , تولید این مطلب سیبکس را پسندیدید؟ (1) (0) X تازه ترین مطالب مرتبط قیمت جهانی طلا به ۴۲۷۵ دلار رسید بهترین ابزار های هوش مصنوعی که می توانید بصورت رایگان استفاده کنید شوک تورمی بی سابقه در کمین اقتصاد هند سقوط 41 درصدی تولید نفت خلیج فارس نظرات بینندگان سیبکس در این مورد نظر شما در مورد این مطلب نام: ایمیل: نظر: سوال: = ۷ بعلاوه ۵