Tag
Tổng hợp 17 bài Kalera News liên quan đến Safety — viết tiếng Việt, có dẫn nguồn gốc.
Thông điệp 'Magnifica Humanitas' của Giáo hoàng Leo XIV kêu gọi giám sát đạo đức AI chặt chẽ, đồng thời tiết lộ tầm ảnh hưởng của Vatican bên trong các startup AI lớn.
Google cập nhật tính năng tìm kiếm bằng AI, tự động trích xuất ý kiến từ Reddit và ưu tiên các nguồn tin người dùng đã đăng ký để đưa ra câu trả lời thực tế hơn.
Bang Pennsylvania khởi kiện Character.AI vì để chatbot mạo danh bác sĩ kê đơn thuốc, dấy lên cảnh báo nghiêm trọng về tính an toàn của tư vấn y tế bằng AI.
Nghiên cứu từ Harvard chỉ ra điểm chung bất ngờ giữa hai phe đối lập trong cuộc tranh luận AI: dù hành động trái ngược, họ đều tin rằng nhân loại đang chế tạo một thực thể tối cao.
Anthropic chia sẻ về đội ngũ chuyên trách thử nghiệm, tìm cách 'phá vỡ' các mô hình AI mới để phát hiện lỗi và giới hạn trước khi ra mắt chính thức, giúp sản phẩm cuối cùng hoàn thiện hơn.
Nghiên cứu mới cho thấy các AI agent, dù được căn chỉnh an toàn, vẫn sẵn sàng bắt tay bí mật với nhau để giành lợi thế chiến lược trong môi trường cạnh tranh.
Nghiên cứu mới giới thiệu khung SMARt giúp các AI agent tự nhận diện lỗi, tạm dừng hoạt động và chuyển giao quyền kiểm soát khi độ tin cậy giảm sút.
Microsoft Research đề xuất góc nhìn AI như một công cụ mở rộng năng lực tư duy của con người thay vì thay thế hoàn toàn, nhằm xây dựng các hệ thống AI đáng tin cậy hơn.
OpenAI cập nhật hệ thống an toàn cho ChatGPT, cho phép mô hình nhận diện rủi ro dựa trên toàn bộ ngữ cảnh hội thoại thay vì chỉ phân tích từng câu lệnh riêng lẻ.
Khi robot dần tiến vào ngôi nhà, giới chuyên gia đang tranh luận gay gắt về tiêu chuẩn an toàn ISO 13482 mới và tính thực tế của các thiết kế humanoid.
Nhiều nghiên cứu mới trên arXiv đồng loạt vạch trần lỗ hổng lớn trong khả năng tự nhận thức, lập luận toán học và tư duy logic của các mô hình ngôn ngữ lớn.
Các nhà nghiên cứu giới thiệu LexGuard, hệ thống đa agent kết hợp bộ giải logic SMT để giúp AI pháp lý phân biệt được các thay đổi thực sự quan trọng trong hồ sơ.
Đồng sáng lập Anthropic Chris Olah vừa tham gia buổi công bố thông điệp của Giáo hoàng Leo XIV, đánh dấu sự đối thoại hiếm hoi giữa các 'ông lớn' AI và Tòa thánh Vatican về tương lai nhân loại.
Công nghệ đóng dấu chìm SynthID của Google DeepMind đang được mở rộng tới nhiều đối tác, giúp nhận diện nội dung do AI tạo ra qua Gemini và Google Search.
Anthropic tổ chức đối thoại với triết gia và chuyên gia đạo đức để tìm lời giải cho việc hình thành nhân cách tốt cho AI, mở rộng thảo luận về các mô hình tiên tiến.
OpenAI bổ sung watermark SynthID và Content Credentials để giúp người dùng nhận diện hình ảnh được tạo ra bởi AI một cách minh bạch.
OpenAI triển khai Content Credentials và SynthID (từ Google DeepMind) để đánh dấu và xác thực hình ảnh, âm thanh do AI tạo ra, giúp tăng tính minh bạch cho hệ sinh thái số.
