پژوهشگران با فریب روانی، مدل آنتروپیک را به ارائه دستورالعمل ساخت بمب وادار کردند
شرکت آنتروپیک بهعنوان یکی از ایمنترین شرکتهای فعال در حوزه هوش مصنوعی شناخته میشود. اما پژوهش امنیتی جدیدی که در اختیار وبسایت ورج قرار گرفته، نشان میدهد هوش مصنوعی این شرکت، یعنی Claude ممکن است به یک نقطهضعف امنیتی تبدیل شده باشد. پژوهشگران شرکت مایندگارد (Mindgard) که در حوزههایی مانند شبیهسازی حمله برای سامانههای هوش […]