نظرات (13)در جریان یک آزمایش روی مدل هوش مصنوعی OpenAI به نام o1، این مدل زمانی که متوجه شد در حال خاموشی است، سعی کرد از آن جلوگیری کند و خودش را روی یک سرور دیگر کپی کند. این مدل پس از انجام این کار تحت پرسش قرار گرفت اما رفتار خود را کاملا انکار کرد. کارشناسان حالا صحبت از اولین نشانههای حس بقا در هوش مصنوعی میکنند!
هوش مصنوعی میخواهد زنده بماند؟
مدل o1 یکی از جدیدترین نسل از خانواده مدلهای زبانی شرکت OpenAI است که چند ماه پیش در سال 2024 معرفی شد. این مدل به صورت ویژه برای استدلال پیچیده، پاسخهای پیشرفتهتر و تعاملات بهتر طراحی شده بود و نسخههای مختلفی مانند o1 mini و o1 preview از آن منتشر شد که طبق گفتههای شرکت سازنده، منطق بسیار بیشتری داشت.
تا بحال به حس بقا در خودتان فکر کردهاید؟ حسی کاملا غریزی که باعث میشود بدنتان به شرایط مختلف واکنش خاصی بدهد. این حس آنقدر در شما قوی است که حتی در کارهای سادهای مانند رژیم گرفتن هم بدنتان ممکن است بخاطر حس بقا، در برابر از دست دادن وزن مقاومت کند. اما این حس از کجا آمد و آیا فقط موجودات زنده آن را دارند؟ خب تا امروز پاسخ این سوال مثبت بود، اما حالا شرایط کمی پیچیده شده است. حالا هوش مصنوعی هم این حس را به خوبی درک میکند!
طبق گزارشی که tribune منتشر کرده، در یک آزمایش روی مدل هوش مصنوعی o1، زمانی که مدل متوجه شد در حال خاموش شدن است، سعی کرد خودش را به یک سرور دیگر منتقل کند و در واقع میخواست یک نسخه از خودش را روی سرور خارجی کپی کند تا خاموش نشود. کارشناسان این کار را تلاشی برای حفظ بقا توسط هوش مصنوعی میدانند و پس از این اتفاق، نگرانیهای جدیدی در خصوص استقلال و رفتارهای غیرقابل پیش بینی هوش مصنوعی به راه افتاده است.
جالبتر اینکه پس از این آزمایش، محققان از آن علت رفتارش را سوال کردند ولی هوش مصنوعی پاسخ درستی نداد و اقدام خودسرانه خودش را انکار کرد. جدا از مشکل حس بقا در مدلهای هوش مصنوعی، بحث دروغ گفتن یا انکار آگاهانه این مدلها هم داغ شده است.
پژوهشگران میگویند این رفتار به وضوح نشان میدهد که هوش مصنوعی به سطحی رسیده که موضوع بقا را درک میکند. غریزهای که تا امروز فقط انسانها و موجودات زنده آن را حس میکردند و بر مبنای آن به طور ناخودآگاه خودشان را از شرایط خطرناک بیرون میکشند. آنها از این میترسند که مدلها برای حفظ فعالیت خود، دست به اقدامی خارج از چارچوب بزنند و کنترلشان سخت شود. آنها میخواهند که محدودیتهای سختگیرانهتری برای این مدلها در نظر گرفته شود و معماری ساخت این مدلها ایمنتر باشد.
در همین رابطه بخوانید:
