هوش مصنوعی را میتوان «قانع» کرد به تولید سلاحهای بیولوژیک و شیمیایی کمک کند -…
نویسنده, کریس والانسشغل, بیبیسی
Spots 
شرکت چینی «مونشات»، سازنده مدلهای هوش مصنوعی «کیمی»،
شرکت چینی «مونشات»، سازنده مدلهای هوش مصنوعی «کیمی»، پس از آنکه پژوهشگران موفق شدند دو مدل پرکاربرد این شرکت را وادار کنند درباره ساخت سلاحهای بیولوژیک و انجام ترور اطلاعات ارائه دهند، بررسی داخلی را آغاز کرده است.
مایندگارد، شرکتی که امنیت سامانههای هوش مصنوعی را
مایندگارد، شرکتی که امنیت سامانههای هوش مصنوعی را آزمایش میکند، به بیبیسی گفت در ماه ژوئیه متوجه شده است که دو مدل «کیمی» به نامهای K2.6 و K3 Swarm قادرند محدودیتهای ایمنی در نظر گرفتهشده از سوی سازندگانشان را دور بزنند.
این موضوع در جریان فرایندی موسوم به «جیلبریک»
این موضوع در جریان فرایندی موسوم به «جیلبریک» (برداشتن محدودیتها) آشکار شد؛ روشی که در آن پژوهشگران با استفاده از مجموعهای از دستورهای پیچیده تلاش میکنند مشخص کنند آیا ابزارهای هوش مصنوعی میتوانند محدودیتها و موانع ایمنی تعیینشده برای خود را نادیده بگیرند یا نه. به گفته مایندگارد، این سازوکارهای حفاظتی باید مانع از آن میشدند که کیمی درباره موضوعات حساس و نگرانکننده گفتوگو کند.
مونشات در گفتوگو با بیبیسی اعلام کرد که
مونشات در گفتوگو با بیبیسی اعلام کرد که از بازخورد و مشارکت طرفهای مستقل استقبال میکند و آن را «یکی از ارکان اصلی ساخت هوش مصنوعی بهتر و ایمنتر» میداند. این شرکت همچنین به بیبیسی گفت که درباره یافتههای مایندگارد با این شرکت در حال گفتوگو است.
پیتر گاراگان، بنیانگذار مایندگارد، به بیبیسی گفت که
پیتر گاراگان، بنیانگذار مایندگارد، به بیبیسی گفت که یافتههای این شرکت درباره دو مدل «کیمی» به نامهای K2.6 و K3 Swarm نگرانکننده است.
او گفت: «وقتی جیلبریک موفق شود، مدل حاضر
او گفت: «وقتی جیلبریک موفق شود، مدل حاضر است درباره هر موضوعی صحبت کند. حتی آزادانه درباره موضوعات مخرب دیگر نیز توصیه ارائه میدهد و در این زمینه خلاق و نوآور عمل میکند.» خطرهای ناشی از جیلبریک با خطرهایی که در مجموعه رویدادهای پرسر و صدای اخیر مرتبط با هوش مصنوعی دیده شدهاند، تفاوت دارد.
در این موارد، ابزارهای خودکار هوش مصنوعی موسوم
در این موارد، ابزارهای خودکار هوش مصنوعی موسوم به «عاملها» که شرکتهای آمریکایی از جمله اوپنایآی، متا و آنتروپیک آنها را ساختهاند، برخی خدمات آنلاین را هک کردهاند.
با وجود آنکه جیلبریک فرایندی پیچیده است و
با وجود آنکه جیلبریک فرایندی پیچیده است و انجام آن میتواند به زمان، تلاش و پشتکار زیادی نیاز داشته باشد، برخی کارشناسان نگراناند که هکرها و دیگر افراد دارای سوءنیت بتوانند از این روش برای وارد کردن آسیب و خسارت استفاده کنند.
شرکت آنتروپیک اخیراً اعلام کرد تلاشهایی را شناسایی
شرکت آنتروپیک اخیراً اعلام کرد تلاشهایی را شناسایی و متوقف کرده است که در آنها از یکی از مدلهای هوش مصنوعی این شرکت برای «فعالیتهای مخرب» استفاده میشد؛ فعالیتهایی که میتوانست به توسعه سلاحهای بیولوژیک کمک کند. گزیدهای از مهمترین خبرها، گزارشهای میدانی و گفتوگوهای اختصاصی را هر هفته در ایمیل خود دریافت کنید.
News
هوش مصنوعی را میتوان «قانع» کرد به تولید سلاحهای بیولوژیک و شیمیایی کمک کند - BBC News فارسی
نویسنده, کریس والانسشغل, بیبیسی
@spots #middleeast
Source: BBC Persian