서울시가 인공지능(AI) 기술이 행정 전반에 빠르게 확산되는 환경 속에서, 시민이 안심하고 신뢰할 수 있는 AI 행정을 구현하기 위한 기준으로 「서울특별시 인공지능 활용 윤리 지침」을 제정하고, 2026년 1월부터 공공행정 전 분야에 본격 적용한다고 밝혔다.

< ‘서울형 AI 윤리’… 5대 원칙으로 제도화 >

 서울시는 인공지능 활용의 기준으로 공공성, 공정성, 투명성, 책임성, 안전성의 다섯 가지 원칙을 설정하고, 이를 ‘서울형 AI 윤리 기준’으로 정립했다.

 첫째, 인공지능을 단순히 행정 효율을 높이는 도구가 아니라, 시민 전체의 삶의 질을 높이는 공공의 수단으로 활용해야 한다는 점을 분명히 했다. 서울시는 AI 도입 여부와 활용 방식에 있어, 항상 공공 목적과 시민의 복리 증진에 기여하는지를 우선 기준으로 삼도록 했다.

 둘째, 인공지능 기반 행정서비스가 특정 계층이나 집단에 불리하게 작용하지 않도록 알고리즘 편향을 최소화하고, 누구나 차별 없이 접근하고 이용할 수 있도록 공정성과 형평성을 중요한 원칙으로 제시했다.

 셋째, AI가 활용되는 과정과 결과에 대해 시민이 이해할 수 있도록 설명 가능성을 확보하는 것도 핵심 원칙으로 명확히 했다. AI가 어떤 역할을 했는지, 판단의 근거는 무엇인지에 대해 가능한 범위 내에서 정보를 제공함으로써 행정의 투명성과 신뢰를 높이겠다는 취지다.

 넷째, AI 활용 전 과정에는 항상 인간의 감독과 책임이 전제되어야 한다는 점을 분명히 했다. 인공지능은 의사결정을 보조하는 수단일 뿐, 최종 판단과 책임은 행정을 담당하는 사람이 지도록 해 책임 있는 운영 체계를 유지하도록 했다.

 다섯째, 개인정보 보호와 시스템 보안을 강화해 시민이 안심하고 행정서비스를 이용할 수 있는 안전한 AI 이용환경을 조성하는 것도 중요한 원칙으로 담았다.

 이렇듯 이번 지침은 2025년 9월 제정된 「서울특별시 인공지능윤리 기반 조성에 관한 조례」에 따른 후속 조치로, 국가 차원의 「인공지능기본법」과 행정안전부의 공공부문 인공지능 윤리원칙을 반영하되, 서울시 행정 환경에 맞게 구체화한 것이 특징이다.

< 적용 범위 확대… 위탁·용역·출연기관까지 포함 >

 지침의 적용 범위는 서울시 본청과 자치구는 물론, 투자·출연기관과 위탁·용역 수행기관 등 서울시 행정업무 수행 과정에서 인공지능을 활용하는 모든 주체를 포괄한다.

 서울시 권역 외에서 이루어진 AI 활용이라 하더라도, 그 결과가 서울시 행정이나 시민의 권익에 직접적인 영향을 미치는 경우에는 지침을 적용하도록 해 실효성을 높였다.

 서울시는 지침 마련 과정에서 2025년 7월부터 서울AI재단과 함께 ‘서울형 AI 윤리 지침 타당성 분석 연구’를 진행했으며, 국제인공지능윤리협회 등 전문기관과의 협력을 통해 다양한 의견을 수렴해 최종안을 완성했다.

 향후에도 AI 기술 발전과 정책 환경 변화에 따라, 지침 운영 과정에서 나타나는 사례와 현장 의견을 반영해 지속적으로 보완·개선해 나갈 계획이다.

 강옥현 서울시 디지털도시국장은 “이번 지침은 인공지능 기술이 행정의 일상적인 도구가 되는 시대에, 시민의 권리를 지키면서 기술을 책임 있게 활용하기 위한 기준”이라며, “윤리와 신뢰를 기반으로 한 AI 행정을 통해 서울이 인공지능을 선도하는 도시로 나아갈 수 있도록 최선을 다하겠다”고 말했다.