컨셉노트
AI와 권위주의 시대, 도시 민주주의 회복을 위한 노력
배경
도시의 디지털 전환은 권리, 지역 민주주의 및 국제 협력의 미래에 있어 가장 중대한 과제 중 하나이다. 인공지능(AI)은 현대 도시 거버넌스의 핵심 인프라로 자리 잡고 있다. 알고리즘 시스템은 공간 계획, 공공서비스 관리, 부동산 시장, 도시 안전, 자원 배분 등 다양한 영역에서 점점 더 중요한 역할을 수행하고 있다. 그러나 AI는 결코 중립적인 기술이 아니며, 소수의 주요 경제·기술 주체에 의해 개발되고 통제되는 정치적 기술로 기능하고 있다.
도시는 기존 제도에 의해 기능이 운영되는 ‘스마트 도시(Smart Cities)’에서, 인공지능 기반 ‘시티 브레인(City Brains)’을 통해 자율적으로 운영이 가능한 ‘자율 도시(Autonomous Cities)’로 빠르게 전환되고 있다. 이러한 전환은 거버넌스, 투명성, 민주적 참여, 도시권, 프라이버시, 비차별, 서비스에 대한 공정한 접근에 중대한 영향을 미치고 있다.
동시에 국제적 맥락은 다자 협력의 위기, 무력 분쟁의 확산, 디지털 인프라의 민영화 심화, 그리고 대형 기술 기업에 의해 형성된 거버넌스 구조를 중심으로 국제기구의 역할이 약화되는 양상으로 특징지어지고 있다. 인권도시의 관점에서 핵심적인 질문은 다음과 같다. 인공지능 거버넌스가 인권, 지방 민주주의, 평화에 부합하도록 유지되면서, 디지털 전환이 배제·권위주의·갈등의 수단으로 작동하지 않도록 민주적 회복력을 어떻게 강화할 것인가?
본 회의에서는 디지털 전환에 대한 기술 중심적 관점을 넘어, 인공지능, 도시 권위주의, 인권 간의 구조적 연관성을 다루고자 한다. 회복력의 관점에서 위협을 인식하는 것을 넘어, 인공지능 기반 시스템에 의해 민주적 거버넌스가 약화되는 상황에 대응하고 회복하기 위해 필요한 제도적·시민적·규범적 역량을 구축하는 데 초점을 두고자 한다.
목표
1. 인공지능 활용이 주거권, 참여권, 사생활 보호권, 비차별, 서비스 접근권 등 기본권을 어떻게 약화시킬 수 있는지를 비판적으로 분석하고, 이에 대응하기 위한 회복력 전략을 도출한다.
2. 인공지능과 도시 및 디지털 권위주의의 새로운 양상 간의 관계를 분석하고, 민주적 제도가 적응적 회복력을 구축할 수 있는 방안을 검토한다.
3. 회복탄력적인 규제 및 정책 체계를 바탕으로, 인권을 인공지능 거버넌스의 구속력 있는 규범적 기반으로 강화한다.
4. 알고리즘 기반 배제와 무분별한 데이터 추출에 대응하기 위한 공동체 회복력을 강화하며, 감시 및 견제 과정에 적극적으로 참여하는 시민의 역할을 확립한다.
5. 지역 민주주의, 평화, 다극적 국제 협력을 수호하는 핵심 행위자로서 도시의 역할을 강조한다.
6. 회복력 있고 민주적이며 책임 있는 도시 인공지능 거버넌스를 위한 모범사례, 도구, 전략을 공유한다.
중점 논의사항
1. 인공지능 기반 도시 거버넌스 모델이 민주적 제도, 인권, 평화, 다극적 협력에 미치는 영향을 분석한다.
2. 스마트 도시(Smart Cities)에서 자율 도시(Autonomous Cities)로의 전환과 그에 따른 투명성, 참여, 도시권에 미치는 시사점을 분석한다.
3. 인권 기반 인공지능 거버넌스를 통해 민주적 회복력 강화를 위한 제도, 규제, 시민의 전략을 논의한다.
4. 도시, 시민사회, 학계, 국제기구 등 다자 이해관계자 간 대화를 활성화하여, 회복력 있고 책임 있는 도시 인공지능 거버넌스를 위한 실행 가능한 정책 제안을 도출한다.
컨셉노트
AI와 권위주의 시대, 도시 민주주의 회복을 위한 노력
배경
도시의 디지털 전환은 권리, 지역 민주주의 및 국제 협력의 미래에 있어 가장 중대한 과제 중 하나이다. 인공지능(AI)은 현대 도시 거버넌스의 핵심 인프라로 자리 잡고 있다. 알고리즘 시스템은 공간 계획, 공공서비스 관리, 부동산 시장, 도시 안전, 자원 배분 등 다양한 영역에서 점점 더 중요한 역할을 수행하고 있다. 그러나 AI는 결코 중립적인 기술이 아니며, 소수의 주요 경제·기술 주체에 의해 개발되고 통제되는 정치적 기술로 기능하고 있다.
도시는 기존 제도에 의해 기능이 운영되는 ‘스마트 도시(Smart Cities)’에서, 인공지능 기반 ‘시티 브레인(City Brains)’을 통해 자율적으로 운영이 가능한 ‘자율 도시(Autonomous Cities)’로 빠르게 전환되고 있다. 이러한 전환은 거버넌스, 투명성, 민주적 참여, 도시권, 프라이버시, 비차별, 서비스에 대한 공정한 접근에 중대한 영향을 미치고 있다.
동시에 국제적 맥락은 다자 협력의 위기, 무력 분쟁의 확산, 디지털 인프라의 민영화 심화, 그리고 대형 기술 기업에 의해 형성된 거버넌스 구조를 중심으로 국제기구의 역할이 약화되는 양상으로 특징지어지고 있다. 인권도시의 관점에서 핵심적인 질문은 다음과 같다. 인공지능 거버넌스가 인권, 지방 민주주의, 평화에 부합하도록 유지되면서, 디지털 전환이 배제·권위주의·갈등의 수단으로 작동하지 않도록 민주적 회복력을 어떻게 강화할 것인가?
본 회의에서는 디지털 전환에 대한 기술 중심적 관점을 넘어, 인공지능, 도시 권위주의, 인권 간의 구조적 연관성을 다루고자 한다. 회복력의 관점에서 위협을 인식하는 것을 넘어, 인공지능 기반 시스템에 의해 민주적 거버넌스가 약화되는 상황에 대응하고 회복하기 위해 필요한 제도적·시민적·규범적 역량을 구축하는 데 초점을 두고자 한다.
목표
1. 인공지능 활용이 주거권, 참여권, 사생활 보호권, 비차별, 서비스 접근권 등 기본권을 어떻게 약화시킬 수 있는지를 비판적으로 분석하고, 이에 대응하기 위한 회복력 전략을 도출한다.
2. 인공지능과 도시 및 디지털 권위주의의 새로운 양상 간의 관계를 분석하고, 민주적 제도가 적응적 회복력을 구축할 수 있는 방안을 검토한다.
3. 회복탄력적인 규제 및 정책 체계를 바탕으로, 인권을 인공지능 거버넌스의 구속력 있는 규범적 기반으로 강화한다.
4. 알고리즘 기반 배제와 무분별한 데이터 추출에 대응하기 위한 공동체 회복력을 강화하며, 감시 및 견제 과정에 적극적으로 참여하는 시민의 역할을 확립한다.
5. 지역 민주주의, 평화, 다극적 국제 협력을 수호하는 핵심 행위자로서 도시의 역할을 강조한다.
6. 회복력 있고 민주적이며 책임 있는 도시 인공지능 거버넌스를 위한 모범사례, 도구, 전략을 공유한다.
중점 논의사항
1. 인공지능 기반 도시 거버넌스 모델이 민주적 제도, 인권, 평화, 다극적 협력에 미치는 영향을 분석한다.
2. 스마트 도시(Smart Cities)에서 자율 도시(Autonomous Cities)로의 전환과 그에 따른 투명성, 참여, 도시권에 미치는 시사점을 분석한다.
3. 인권 기반 인공지능 거버넌스를 통해 민주적 회복력 강화를 위한 제도, 규제, 시민의 전략을 논의한다.
4. 도시, 시민사회, 학계, 국제기구 등 다자 이해관계자 간 대화를 활성화하여, 회복력 있고 책임 있는 도시 인공지능 거버넌스를 위한 실행 가능한 정책 제안을 도출한다.