인공지능 발전에 따른 문제점 및 대응방안

소개글

인공지능 발전에 따른 문제점 및 대응방안에 대한 보고서 자료입니다.

목차

Ⅰ. 연구 배경 및 목적

Ⅱ. 인공지능의 발전 및 활용사례
1. 인공지능의 정의 및 역사
2. 인공지능의 활용 사례 및 유용성

Ⅲ. 인공지능 발전에 따른 문제점

Ⅳ. 인간과 인공지능의 공존을 위한 대응방안
1. 인공지능 사고 예방을 위한 사전 논의 필요
2. 분야별 구체적인 기준 마련
3. 설명할 수 있는 인공지능 개발
4. 양질의 데이터 개발 및 윤리성 강화
5. 인공지능 제품 품질관리 및 지속적 모니터링

Ⅴ. 결론 및 시사점

Ⅵ. 참고문헌

본문내용

인공지능이 흑인 여성을 고릴라로 인식한 사건이 있었다. 그 이유는 흑인에 대한 학습 데이터가 적었기 때문이었다. 영어로 ‘전문적인 여성의 헤어 스타일’과 ‘비전문적인 여성의 헤어 스타일’을 검색하면 전자는 주로 백인 여성의 이미지가, 후자는 주로 흑인 여성의 이미지가 등장한다. 마이크로소프트의 챗봇 테이는 어떠한 편견이나 배경 지식을 가지고 있지 않은 채로 시작되었다가 하루 만에 인종차별적인 발언을 쏟아내어 서비스가 중단되기도 했었다. 딥 러닝에 활용되는 데이터의 생산자가 주로 선진국이거나 남성일 경우 예기치 않은 왜곡을 만들어 낼 수 있다. 어떤 데이터로 학습하느냐에 따라 인공지능의 판단 논리는 크게 달라진다. 이를 위해 정부와 기업은 데이터의 질에 관해 수시로 점검하고, 양질의 데이터 개발을 위해 노력해야 한다.
5. 인공지능 제품 품질관리 및 지속적 모니터링
인공지능은 오직 설정된 목표를 달성하기 위해 작동하므로, 인간의 존엄성이나 생명, 윤리에 대한 가치를 벗어난 선택을 할 가능성에 대해 모니터링 할 필요가 있다. 인공지능 제품과 서비스 출시 전 충분히 반복된 품질검사를 통해 오류를 최소화하고, 충분한 예측 정보를 확보해 대비하는 것이 중요하다. 또한 비상용 킬스위치(Kill Switch, 긴급중단) 기능을 내장하고 소비자들이 긴급한 상황에서 대응할 수 있도록 안내하는 것도 필요하다. 마지막으로 출시한 이후에도 사후 모니터링 시스템에 의해 오류와 안전을 지속적으로 점검하고, AI 제품과 서비스를 철저히 운영하고 관리하는 방안도 강구돼야 한다.
Ⅴ. 결론 및 시사점
세계 각국은 인공지능 기술의 주도권 확보를 위한 노력과 함께 인공지능의 부작용 및 잠재적 위험 등에 대비하고 있다. 우리나라도 2021년 5월 ‘신뢰할 수 있는 인공지능 실현 전략’을 발표하고, 인공지능의 기술적 한계 극복과 함께 오남용 등에 따른 잠재 위험 예방을 위한 제도 보완과 윤리의식 확산을 강조하였다. 하지만 아직까지 국가 차원의 인공지능 정책은 큰 틀에서 기준만 마련되어, 세부적인 논의를 위한 사회적 합의가 필요한 상황이다. 이를 위해서는 인공지능과 관련된 이슈를 총괄하고 조정하여 사회적 합의를 도출하기 위한 거버넌스를 구축해야 할 필요가 있다. 구체적으로는 인공지능 사고 및 위험 상황에 대한 정보공유를 촉진하고, 인공지능에 대한 공동의 지식기반을 구축해야 한다.
레이 커즈와일은 <특이점이 온다>라는 저서에서 인공지능이 인간을 초월하는 순간이 2042년 이라고 예언했다. 그러나 이러한 순간에도 인공지능에 대한 인간의 통제는 가능해야 할 것이다. 인공지능과 인간의 평화로운 공존을 위해서는 인공지능에 대한 사전적인 관리원칙 마련, 분야별 세부 기준 정립, 설명할 수 있는 인공지능 개발, 양질의 데이터 개발과 윤리 정립, 품질관리 및 지속적 모니터링 등이 이루어져야 할 것이다.
Ⅵ. 참고문헌
1. 한국과학기술정보연구원, 이슈브리프 제35호, 2021, 인간과 인공지능 공존을 위한 사회 윤리적 쟁점
2. 과학기술 정보통신부, 2022. 과학기술&ICT 정책 기술 동향
3. 한국과학기술정보연구원, 이슈브리프 제38호, 오픈사이언스 활성화를 위한 AI 기술동향
4. 한상기, 2016. 9. 인공지능 기술의 사회적 이슈와 윤리문제, 한국멀티미디어학회지
5. 레이 커즈와일, 2007, 특이점이 온다, 김영사
6. 한겨레, 2023.2.6., 사람처럼 생각한다는 당돌한 인공지능, 미래에 기회일까 위기일까
7. KBS, 2021.11.7., AI석학, 인공지능 갈수록 무서워져, 위협 이미 현실화
8. 매거진 한경, 2023/02/11/ AI, 1940년대 시작됐다고? 인공지능 역사 되돌아보니

키워드

인공지능 발전,   문제점,   대응방안