خالق ChatGPT در مسیر ایمنی هوش مصنوعی قدم برمیدارد
هوش مصنوعی با سرعت زیادی در حال رشد و پیشرفت است و قطعاً این موضوع میتواند جذابیتهای زیادی داشته باشد و زندگی افراد را سادهتر کند. بااینحال، درمقابل این فناوری خطرهایی هم دارد که چشمپوشیدنی نیست و میتواند در آیندهی نزدیک باعث ایجاد مشکلات اساسی شود.
شرکت OpenAI بهخوبی از خطرات هوش مصنوعی اطلاع دارد و حالا چارچوبی را برای کنترل و رسیدگی به ایمنی مدلهای پیشرفتهی خود ارائه کرده است.
یکی از مواردی که در چارچوب OpenAI وجود دارد، به هیئتمدیرهی شرکت امکان میدهد تا تصمیمهای مختلف مدیران اصلی را بیاثر کند.
طبق چارچوب جدید، OpenAI تنها درصورتی میتواند از جدیدترین فناوریهای خود استفاده کند که این مدلهای جدید ازنظر تهدیدهای هستهای و امنیت سایبری بیخطر تلقی شوند. شرکت سم آلتمن در حال ایجاد گروه مشاورهای است تا گزارشهای امنیتی را دریافت کنند و آنها را بهدست مدیران عالیرتبه برسانند.
از انتشار عمومی ChatGPT حدود یک سال میگذرد و در این مدت توسعهدهندگان هوش مصنوعی و کاربران عادی بهخوبی متوجه شدهاند که این فناوری تا چه حد میتواند خطرناک باشد.
هوش مصنوعی مولد عملکرد شبیه به انسان در پاسخ به دستورهای متنی دارد و گاهی اوقات حتی خلاقیت از خود نشان میدهد. این ممکن است در آیندهی نزدیک باعث ایجاد مشکلهای امنیتی و سایبری شود و زمینه را برای سوءاستفادهی افراد مهیا کند.
بسیاری از رهبران و توسعهدهندگان هوش مصنوعی اوایل سال ۲۰۲۳ نامهای سرگشاده امضا کردند و دربارهی خطرهای متعدد GPT-4 هشدار دادند و حالا بهنظر میرسد شرکت OpenAI قصد دارد مشکلات احتمالی را بهحداقل برساند.
نظرات