KCI등재후보
생성형 AI와 편향성 = Could Data Lie? : Generative AI and Bias
저자
김현진 (인하대학교)
발행기관
학술지명
권호사항
발행연도
2023
작성언어
Korean
주제어
등재정보
KCI등재후보,미등재
자료형태
학술저널
수록면
75-105(31쪽)
제공처
ChatGPT나 Midjourney와 같은 생성형 인공지능(AI) 시스템이 차세대 기술로 떠오르면서 AI가 생성한 창작물에 편견과 편향성이 드러나 논란에 직면하고 있다. 이러한 AI 시스템은 딥러닝과 강화 학습을 통해 사람들이 만든 방대한 양의 책, 블로그, 이미지, 소셜 미디어를 교과서로 삼아 패턴과 관계를 학습하여 과거의 데이타를 기반으로 새로운 콘텐츠를 만들거나 결과를 예측한다. 그러나 편향되거나 대표성이 없는 데이터로 사전 학습된 경우, 생성형 AI 모델은 오해의 소지가 있거나 잘못된 출력을 생성할 수 있다. 가령 AI 시스템이 성별 고정관념에 기반한 가정을 학습하거나 특정 인종이나 민족에 대한 편견을 가질 수 있는데, 생성형 AI가 고용, 금융, 교육, 공공 서비스 등 다양한 분야에 스며들면서 최근 편향성에 대한 우려가 제기되고 있다.
오늘날 책임감 있고 공평한 기술 사용을 위해 생성형 AI의 편향성을 해결하는 것은 어렵지만 매우 중요하다. AI 편향성 문제 해결에는 기술적 솔루션뿐만 아니라 공정성, 투명성, 책임성, 포용성과 같은 윤리적 고려사항도 포함된다. 데이터 관리 개선, 모니터링, 공정성 인식 알고리즘 개발, 효과적인 법적 및 정책적 대응을 통해 이해관계자들은 보다 공정하고 포용적인 사회를 만드는 데 일조할 수 있다. 또한 AI 시스템의 개발과 배포에 있어 편향성을 해결하기 위한 국가 및 국제적 차원의 노력이 필요하다. AI 기술이 계속 발전하고 사회에 더욱 통합됨에 따라 정부, 업계, 학계가 협력하여 책임감 있는 AI 개발과 사용을 보장하는 포괄적인 법적 프레임워크와 윤리적 지침을 수립하는 것이 요구된다. 이러한 전략의 조합을 통하여 편견을 최소화하고 AI 시스템의 공정성을 개선하는 데 의미 있는 진전을 이룰 수 있을 것이다.
As generative Artificial Intelligence (AI) systems, such as ChatGPT or Midjourney, emerge as next-generation technologies, they face controversy due to exposed prejudice and bias in AI-generated works. These AI systems create new content or predict outcomes based on input data, relying on deep learning and reinforcement to learn patterns and relationships from extensive historical data. However, if pre-trained on biased, incomplete, or unrepresentative data, generative AI models may produce misleading or false outputs. The training data often reflects societal biases or perpetuates past prejudices, such as gender, race, age, and socio-economic biases. AI systems may learn to make assumptions based on gender stereotypes, develop biases against certain racial or ethnic groups, reveal distorted views related to socio-economic factors, or exhibit biases based on age, geography, language, political beliefs, culture, or religion, leading to discrimination. As these systems permeate various sectors, including employment, finance, education, and public services, concerns about biases have recently emerged.
Addressing bias in generative AI is challenging but critical for responsible and equitable technology usage nowadays. Addressing AI bias involves not only technical solutions but also ethical considerations, such as fairness, transparency, accountability, and inclusivity. By improving data management, monitoring, developing fairness-aware algorithms, and implementing effective legal and policy responses, stakeholders can promote a more just and inclusive society. National and international level’s commitment to addressing AI bias and other ethical concerns in the development and deployment of AI systems is needed. As AI technologies continue to advance and become more integrated into society, it is crucial for governments, industries, and academia to collaborate in establishing comprehensive legal frameworks and ethical guidelines that ensure responsible AI development and usage. A combination of these strategies can help make meaningful progress in minimizing bias and improving the fairness of AI systems.
분석정보
서지정보 내보내기(Export)
닫기소장기관 정보
닫기권호소장정보
닫기오류접수
닫기오류 접수 확인
닫기음성서비스 신청
닫기음성서비스 신청 확인
닫기이용약관
닫기학술연구정보서비스 이용약관 (2017년 1월 1일 ~ 현재 적용)
학술연구정보서비스(이하 RISS)는 정보주체의 자유와 권리 보호를 위해 「개인정보 보호법」 및 관계 법령이 정한 바를 준수하여, 적법하게 개인정보를 처리하고 안전하게 관리하고 있습니다. 이에 「개인정보 보호법」 제30조에 따라 정보주체에게 개인정보 처리에 관한 절차 및 기준을 안내하고, 이와 관련한 고충을 신속하고 원활하게 처리할 수 있도록 하기 위하여 다음과 같이 개인정보 처리방침을 수립·공개합니다.
주요 개인정보 처리 표시(라벨링)
목 차
3년
또는 회원탈퇴시까지5년
(「전자상거래 등에서의 소비자보호에 관한3년
(「전자상거래 등에서의 소비자보호에 관한2년
이상(개인정보보호위원회 : 개인정보의 안전성 확보조치 기준)개인정보파일의 명칭 | 운영근거 / 처리목적 | 개인정보파일에 기록되는 개인정보의 항목 | 보유기간 | |
---|---|---|---|---|
학술연구정보서비스 이용자 가입정보 파일 | 한국교육학술정보원법 | 필수 | ID, 비밀번호, 성명, 생년월일, 신분(직업구분), 이메일, 소속분야, 웹진메일 수신동의 여부 | 3년 또는 탈퇴시 |
선택 | 소속기관명, 소속도서관명, 학과/부서명, 학번/직원번호, 휴대전화, 주소 |
구분 | 담당자 | 연락처 |
---|---|---|
KERIS 개인정보 보호책임자 | 정보보호본부 김태우 | - 이메일 : lsy@keris.or.kr - 전화번호 : 053-714-0439 - 팩스번호 : 053-714-0195 |
KERIS 개인정보 보호담당자 | 개인정보보호부 이상엽 | |
RISS 개인정보 보호책임자 | 대학학술본부 장금연 | - 이메일 : giltizen@keris.or.kr - 전화번호 : 053-714-0149 - 팩스번호 : 053-714-0194 |
RISS 개인정보 보호담당자 | 학술진흥부 길원진 |
자동로그아웃 안내
닫기인증오류 안내
닫기귀하께서는 휴면계정 전환 후 1년동안 회원정보 수집 및 이용에 대한
재동의를 하지 않으신 관계로 개인정보가 삭제되었습니다.
(참조 : RISS 이용약관 및 개인정보처리방침)
신규회원으로 가입하여 이용 부탁 드리며, 추가 문의는 고객센터로 연락 바랍니다.
- 기존 아이디 재사용 불가
휴면계정 안내
RISS는 [표준개인정보 보호지침]에 따라 2년을 주기로 개인정보 수집·이용에 관하여 (재)동의를 받고 있으며, (재)동의를 하지 않을 경우, 휴면계정으로 전환됩니다.
(※ 휴면계정은 원문이용 및 복사/대출 서비스를 이용할 수 없습니다.)
휴면계정으로 전환된 후 1년간 회원정보 수집·이용에 대한 재동의를 하지 않을 경우, RISS에서 자동탈퇴 및 개인정보가 삭제처리 됩니다.
고객센터 1599-3122
ARS번호+1번(회원가입 및 정보수정)