AI Ethics for Practitioners
  • 일러두기
    • 개발진
  • 1. AI 윤리와 개발 생명 주기
    • 1.1 개발 생명주기
    • 1.2 인공지능 개발 생명주기
      • 1.2.1 계획 및 설계
      • 1.2.2 데이터 수집 및 처리
      • 1.2.3 개발
      • 1.2.4 배포 및 모니터링
    • 1.3 개발자 역할의 중요성
    • 1.4 개발자를 위한 AI 윤리
      • 1.4.1 통계적 편향
      • 1.4.2 인간적 편향
      • 1.4.3 시스템적 편향
    • 1.5 윤리적 딜레마
      • 1.5.1 기술적 딜레마
      • 1.5.2 외부 환경에서 기인하는 딜레마
      • 1.5.3 개발 문화에서 기인하는 딜레마
      • 1.5.4 이해관계자(Stakeholders)와의 상호작용에서 기인하는 딜레마
      • 1.5.5 의도하지 않은 윤리적 딜레마
    • 1.6 윤리적 개발(Ethically Aligned Design)을 위한 가이드
    • 1.7 더 읽을거리
    • 1.8 References
  • 2. 계획 및 설계
    • 2.1 배경
    • 2.2 사례 탐구
    • 2.3 윤리적 딜레마와 리스크
    • 2.4 배워보기
      • 2.4.1 핵심 개념 정의 및 공유 언어 정립
      • 2.4.2 윤리적 시나리오 검토
      • 2.4.3 단계별 윤리적 가치와 책임의 구체화
    • 2.5 정리하기
    • 2.6 더 읽을거리
    • 2.7 References
  • 3. 데이터 수집 및 처리
    • 3.1 배경
    • 3.2 사례 탐구
    • 3.3 윤리적 딜레마와 리스크
    • 3.4 배워보기
      • 3.4.1 데이터 윤리성 검증
        • 1) 데이터 윤리와 보호
        • 2) 데이터 균형 확인
        • 3) 라벨링의 윤리성 검토
        • 4) 특성의 적절성 검토
      • 3.4.2 데이터 파이프라인 상의 입력 데이터 확인
      • 3.4.3 데이터 우수성(Data Excellence)을 위한 실천 방안
    • 3.5 정리하기
    • 3.6 더 읽을거리
    • 3.7 References
  • 4. 개발 및 평가
    • 4.1 배경
    • 4.2 사례탐구
    • 4.3 윤리적 딜레마와 리스크
    • 4.4 배워보기
      • 4.4.1 AI Fairness 360 데모 사이트를 사용하여 공정한 알고리즘 설계 학습하기
      • 4.4.2 선정된 알고리즘의 적절성 확인하기
      • 4.4.3 투명한 알고리즘 설계와 설명 가능성 강화의 중요성
      • 4.4.4 AI 모델의 저작권과 라이선스
      • 4.4.5 모델 성능 평가
      • 4.4.6 SW 시스템 통합 과정 점검: 통합시의 윤리성 검토
    • 4.5 정리하기
    • 4.6 더 읽을거리
    • 4.7 References
  • 5. 배포 및 모니터링
    • 5.1 배포
      • 5.1.1 배경
      • 5.1.2 사례탐구
      • 5.1.3 윤리적 딜레마와 리스크
      • 5.1.4 배워보기
      • 5.1.5 더 읽을거리
      • 5.1.6 References
    • 5.2 모니터링 및 리포팅 시스템
      • 5.2.1 배경
      • 5.2.2 사례탐구
      • 5.2.3 윤리적 딜레마와 리스크
      • 5.2.4 배워보기
        • 1) 모델 성능지표 & 데이터 품질 지표
        • 2) 편향 공정성 모니터링
      • 5.2.5 정리하기
      • 5.2.6 더 읽을거리
      • 5.2.7 References
  • 6. 인공지능 시스템의 사회적 영향력
    • 6.1 배경
    • 6.2 사례탐구
    • 6.3 윤리적 딜레마와 참고사항
    • 6.4 배워보기
      • 6.4.1 AI 시스템이 생성물을 전달하는 방식에 따른 사회적 영향력 (사례 1)
      • 6.4.2 AI 시스템이 생성물을 전달하는 방식에 따른 사회적 영향력 (사례 2)
      • 6.4.3 AI 시스템 내외부의 인간 행위자 간 상호작용 (사례 3)
      • 6.4.4 AI 시스템 내외부의 인간 행위자 간 상호작용 (사례 4)
      • 6.4.5 직간접적 이해관계자와의 소통 창구 마련하기
      • 6.4.6 인공지능 시스템의 확대된 사회적 영향력
    • 6.5 정리하기
    • 6.6 더 읽을거리
    • 6.7 Reference
  • 7. 인공지능 관련 소송 사례
    • 7.1 Doe v. Github, Inc
    • 7.2 Andersen v. Stability AI Ltd.
    • 7.3 The New York Times v. Microsoft & Open AI
    • 7.4 (i) Li v. Liu (ii) Shanghai Character License Administrative Co., Ltd. v. TAB
  • 8. Workbook
    • 8.1 배경
    • 8.2 데이터의 편향 확인하기
      • 8.2.1 데이터 준비 및 환경 설정
      • 8.2.2 데이터 전처리 및 저장 함수 정의
      • 8.2.3 모델 학습
      • 8.2.4 시각화 작업
      • 8.2.5 소결
    • 8.3 정제를 통한 데이터 편향성 완화
      • 8.3.1 데이터 필터 네트워크 학습
      • 8.3.2 Pareto 분포 및 모델의 신뢰
      • 8.3.3 파레토 필터링
      • 8.3.4 데이터 필터링
      • 8.3.5 소결
    • 8.4 조정을 통한 모델 편향성 완화
      • 8.4.1 사전 학습된 모델을 활용하여 Task Vector를 적용하기
      • 8.4.2 Task Vector를 활용하여 모델 편향 제거하기
      • 8.4.3 소결
  • Glossary
    • EU-미국 AI 관련 용어 정리 2024(제2판)
    • 미 국립표준기술연구소 편향 용어집
Powered by GitBook
On this page
  • Hello, Developer!
  • 인공지능 교육 콘텐츠 개발 배경 및 마련 과정
  • 교육 콘텐츠 활용 대상
  • 교육 콘텐츠 활용 방법

일러두기

Next개발진

Last updated 4 days ago

Hello, Developer!

신뢰할 수 있는 인공지능(Trustworthy AI), 책임감 있는 인공지능(Responsible AI), 윤리적 인공지능(Ethical AI), 안전한 인공지능(Safe AI)에 대한 사회적 요구는 점점 증대되고 있습니다.

본 교육 콘텐츠는 과학기술정보통신부 「AI의 윤리적 개발·사용을 위한 개발자 대상 윤리교육 실천방안 연구·개발｣ 사업의 일환으로 정보통신정책연구원(KISDI)에서 수행한 연구 결과로서 내용의 무단 전재를 금지합니다.

본 콘텐츠의 내용을 가공･인용하는 경우에는 반드시 ‘과학기술정보통신부･정보통신정책연구원 《인공지능 산업계 실무자를 위한 인공지능 윤리》’의 출처를 밝혀 주시기 바랍니다.

인공지능 교육 콘텐츠 개발 배경 및 마련 과정

인공지능의 윤리적 개발과 활용에 대한 수많은 원칙과 가이드라인, 평가 도구가 쏟아지고 있지만, 정작 개발자 또는 실무자들이 쉽게 접근할 수 있는 인공지능 윤리에 관한 교육 콘텐츠는 부족한 편입니다.

인공지능 윤리 교육 콘텐츠는 개발자 또는 산업계의 실무자들이 윤리적 감수성이 부족하거나 도덕적 이슈들에 대해 민감하지 않아서 필요하다기 보다는 산업계의 환경적 요인 및 문화에 대한 전반적인 고찰을 해보기 위해 필요합니다.

“AI의 윤리적 설계 (AI Ethics by Design)”는 보다 광범위한 사회적 상호작용과 현장에서의 실천을 고려합니다. 인공지능 제품 및 서비스를 활용하는 이용자들의 행동 범위까지 포함한 기술의 결과에 대한 고려를 생각해보고자 본 교육 콘텐츠를 기획하게 되었습니다.

본 교육 콘텐츠의 개발 과정 및 부속 연구는 정보통신정책연구원 [정책연구 24-19(ICT 진흥 및 혁신 기반 조성사업 2024-00438135)] “AI의 윤리적 개발·사용을 위한 개발자 대상 윤리교육 실천방안 연구·개발” 보고서를 참조해주시기 바랍니다.

교육 콘텐츠 활용 대상

본 교육 콘텐츠는 인공지능 산업계에 종사하고자 하는 실무자(기획자 등) 또는 경력 1~3년 사이의 신입 개발자 직군을 대상으로 하고 있습니다.

인공지능 산업계에 종사하기를 계획하는 예비 대학생 또는 대학원생도 콘텐츠에 포함된 자료들을 이용해 인공지능 윤리에 대해 배울 수 있는 기회가 될 것입니다.

교육 콘텐츠 활용 방법

인공지능 윤리 관련 자료가 넘쳐나는 시대에 인공지능 산업계에서 종사하는 개발자들이 필요한 주제에 대해 탐색할 수 있도록 관련 논의와 자료를 제공하고, 실제 현업에서 실천할 수 있도록 인공지능 개발 생태계와 연결해 내용을 제공하였습니다.

챕터1에서 챕터7까지는 인공지능 개발 생태계 각 단계에서 개발자들이 생각해 보아야 할 인공지능 윤리와 관련된 내용 및 관련 자료를 포괄적으로 수록하였습니다. 개별 실무자의 관심사와 레벨에 따라 필요한 부분의 내용을 선택적으로 학습할 수 있으며, 반드시 순차적으로 진행하지 않아도 됩니다.

챕터 8 <워크북>에서는 이론 챕터에서 다루었던 주제들에 대해 심도있게 다루기 위해 학습자 스스로 따라해볼 수 있는 코딩 프랙티스를 담았습니다.

본 콘텐츠는 국가 인공지능 윤리･신뢰성 강화 방안의 일환으로 ‘인공지능 윤리교육 강화’ 정책의 장기 계획에 따라 진행되고 있습니다. 정보통신정책연구원(KISDI)는 과학기술정보통신부와 함께 ‘인공지능 윤리 교육 콘텐츠 개발기준(2021년)을 최초로 개발한 이후 (2022년), (2023년), 그리고 올해 개발자 대상의 인공지능 윤리 교육 콘텐츠 개발과 같이 그 사용 대상자들을 점진적으로 확대하고 있습니다.

💡

인공지능 윤리소통채널

초･중･고등학생 대상 인공지능 윤리 교육 교재 개발
일반 사용자 대상의 인공지능 윤리 교재 개발
[인공지능 윤리 소통채널] AI 윤리교육, 왜 필요한가요?
개선의견 보내기
<참여소통방>
윤리적으로 정렬된 개발