이번 강령은 AI 기술 발전 속도가 안전 대책 마련보다 빠르다는 업계의 우려 속에 마련됐다. MS는 법률, 윤리, 언어학, 철학 전문가들과 협의해 약 5개월 전부터 해당 강령을 준비해왔다. 강령은 AI가 인간의 지침에 따라 작동하며 인간의 판단과 자율성을 증진해야 한다는 원칙을 담고 있다. 구체적으로 AI 모델은 무기 제조, 위험 물질 조달, 유해 콘텐츠 제작 등을 수행해서는 안 되며, 인간이 설정한 목표 내에서만 작동해야 한다. 또한 AI가 스스로 독립적인 목표를 설정하거나 자신의 추론 과정 및 코드를 조작·은폐하는 행위도 금지된다. 특히 AI끼리 인간이 이해할 수 없는 신경망 언어(neuralese)로 소통하는 것을 제한하고, AI가 의식을 모방하거나 법인격 지위를 추구하는 것을 거부한다는 점을 명시했다. MS는 2027년 개발 모델부터 최종 강령을 반영할 계획이며, 현재 외부 의견을 수렴하고 있다. 아울러 오픈AI 모델의 허깅페이스 해킹 사례와 같은 사이버 공격을 방지하기 위한 규칙도 마련할 방침이다.