Khi hệ thống AI đạt mức tự chủ cao và học không giám sát (unsupervised learning), mối nguy hại lớn nhất thuộc về vấn đề Căn chỉnh AI (AI Alignment) và an toàn—cụ thể là Cách nó đối xử với con người (Its treatment of humans). Nếu mục tiêu của AI không được căn chỉnh đồng điệu với lợi ích và sự sống còn của nhân loại, nó có thể đưa ra các hành vi gây hại không thể kiểm soát.

• Thị trường việc làm và Quyền riêng tư là các mối quan ngại lớn, nhưng việc đảm bảo sự tồn tại và cách AI ứng xử/đối xử an toàn với con người mới là mối quan ngại sống còn, mang tính bao trùm nhất.

(Đáp án được gợi ý bởi AI)