KCI등재
생성 AI(Generative AI)의 할루시네이션(hallucination) 이슈와 윤리적 과제: 초등 AI 윤리교육에서 활용 가능한 주제를 중심으로 = Hallucination Issues and Ethical Challenges of Generative AI: Focusing on Topics Applicable to Elementary AI Ethics Education
저자
박형빈 (서울교육대학교)
발행기관
학술지명
권호사항
발행연도
2023
작성언어
Korean
주제어
등재정보
KCI등재
자료형태
학술저널
수록면
21-36(16쪽)
제공처
소장기관
생성 AI는 텍스트, 이미지, 오디오 등 다양한 형태의 콘텐츠를 생성하고 조작하는 기술을 말한다.
이 기술은 딥러닝 알고리즘과 대용량 데이터의 사용으로 발전하였으며, 컴퓨터 비전, 자연어 처리, 음성 인식 등 다양한 분야에서 혁명적인 변화를 가져왔다. 그러나 이 기술의 발전과 함께 윤리적 문제도떠오르고 있으며, 이 중에서도 ‘할루시네이션’ 현상이나 효과가 주목받고 있다. 이는 생성 AI가 현실적이고 사실적인 콘텐츠를 만들어낼 때 발생하는 현상으로 가상과 현실의 경계를 모호하게 만들고 사실이 아닌 것을 사실로 받아들이게 만들 수 있다는 문제를 안고 있다. 이 연구의 주요 목적은 생성 AI 의 할루시네이션 현상을 이해하고 분석하여, 이 현상이 어떻게 발생하며 어떤 영향을 미치는지를 확인하고, 이와 관련된 윤리적 문제를 식별하며 대응 방안을 모색하는 것이다. 생성 AI의 사용과 개발에대한 윤리적 관점을 탐구하여 초등학생들을 위한 AI 윤리교육에서 활용 가능한 ‘생성 AI 윤리교육 주제’들을 제안하고자 했다. 생성 AI 윤리교육 주제는 초등학생들을 위한 ‘AI 윤리교육’에 유용하게 적용할 수 있는 주제들이다. 초등학생들에게 생성 AI의 윤리적 쟁점과 적절한 사용 방법을 가르치는 데필요한 것으로서 데이터 개인 정보 보호, 편견과 공정성, 투명성과 책임, AI 생성 콘텐츠에 대한 의존, 감정 조작과 비판적 사고, 창조 활동에 미치는 영향, AI 생성 콘텐츠의 윤리적 사용을 위한 기준, 표절 및 신뢰성 문제 등과 같은 주제들을 제시했다. 이들을 생성 AI 윤리교육 표제 아래 초등학교 현장에서 다룰 수 있을 것이다. 아울러 이러한 주제들은 학생들의 AI 리터러시, 비판적 사고, AI 윤리인식및 AI 윤리감수성 함양에도 기여할 것이다. 이러한 논의를 통해 미래의 AI 연구, 설계, 개발 및 사용에 AI의 안전한 개발 및 사용 그리고 도덕적 고려 사항을 포함시킬 수 있으며, 초등학생들이 AI의 활용과 함께 AI 기술이 인간의 삶에 야기하는 윤리적 문제들에 대한 논의를 시작하도록 도울 것이다.
Generative artificial intelligence (AI) is a technology capable of generating and manipulating various forms of content, such as text, images, and audio. This technology has evolved through the use of deep-learning algorithms and extensive datasets, leading to revolutionary changes in various fields, including computer vision, natural language processing, and speech recognition. However, with the advancement of generative AI, ethical issues have emerged, particularly the phenomenon of “hallucination.” Hallucination in generative AI occurs when the technology generates content that blurs the boundaries between reality and virtuality, potentially leading to the acceptance of false information as truth. This study primarily aimed to comprehend and analyze hallucination in generative AI and elucidate its mechanism and impact. Additionally, this study aimed to identify ethical challenges associated with this phenomenon and provide possible solutions. This study also explored the ethical perspective of using and developing generative AI and proposed topics relevant to AI ethics education for elementary-school students. The proposed topics are essential for teaching elementary-school students about ethical issues surrounding AI and its responsible use and include the following: data privacy, bias and fairness, transparency and accountability, reliance on generative AI content, emotional manipulation, critical thinking, impact on creative activities, ethical guidelines for AI content, plagiarism, and reliability. These topics can be addressed in elementary AI ethics education, thereby contributing to students’ AI literacy, critical thinking skills, and ethical awareness.
Through these discussions, considerations for the safe development and use of AI and ethics can be incorporated into future AI research, design, development, and deployment. This will also enable elementary-school students to begin discussions about the ethical issues arising from the integration of AI technology into human life.
분석정보
서지정보 내보내기(Export)
닫기소장기관 정보
닫기권호소장정보
닫기오류접수
닫기오류 접수 확인
닫기음성서비스 신청
닫기음성서비스 신청 확인
닫기이용약관
닫기학술연구정보서비스 이용약관 (2017년 1월 1일 ~ 현재 적용)
학술연구정보서비스(이하 RISS)는 정보주체의 자유와 권리 보호를 위해 「개인정보 보호법」 및 관계 법령이 정한 바를 준수하여, 적법하게 개인정보를 처리하고 안전하게 관리하고 있습니다. 이에 「개인정보 보호법」 제30조에 따라 정보주체에게 개인정보 처리에 관한 절차 및 기준을 안내하고, 이와 관련한 고충을 신속하고 원활하게 처리할 수 있도록 하기 위하여 다음과 같이 개인정보 처리방침을 수립·공개합니다.
주요 개인정보 처리 표시(라벨링)
목 차
3년
또는 회원탈퇴시까지5년
(「전자상거래 등에서의 소비자보호에 관한3년
(「전자상거래 등에서의 소비자보호에 관한2년
이상(개인정보보호위원회 : 개인정보의 안전성 확보조치 기준)개인정보파일의 명칭 | 운영근거 / 처리목적 | 개인정보파일에 기록되는 개인정보의 항목 | 보유기간 | |
---|---|---|---|---|
학술연구정보서비스 이용자 가입정보 파일 | 한국교육학술정보원법 | 필수 | ID, 비밀번호, 성명, 생년월일, 신분(직업구분), 이메일, 소속분야, 웹진메일 수신동의 여부 | 3년 또는 탈퇴시 |
선택 | 소속기관명, 소속도서관명, 학과/부서명, 학번/직원번호, 휴대전화, 주소 |
구분 | 담당자 | 연락처 |
---|---|---|
KERIS 개인정보 보호책임자 | 정보보호본부 김태우 | - 이메일 : lsy@keris.or.kr - 전화번호 : 053-714-0439 - 팩스번호 : 053-714-0195 |
KERIS 개인정보 보호담당자 | 개인정보보호부 이상엽 | |
RISS 개인정보 보호책임자 | 대학학술본부 장금연 | - 이메일 : giltizen@keris.or.kr - 전화번호 : 053-714-0149 - 팩스번호 : 053-714-0194 |
RISS 개인정보 보호담당자 | 학술진흥부 길원진 |
자동로그아웃 안내
닫기인증오류 안내
닫기귀하께서는 휴면계정 전환 후 1년동안 회원정보 수집 및 이용에 대한
재동의를 하지 않으신 관계로 개인정보가 삭제되었습니다.
(참조 : RISS 이용약관 및 개인정보처리방침)
신규회원으로 가입하여 이용 부탁 드리며, 추가 문의는 고객센터로 연락 바랍니다.
- 기존 아이디 재사용 불가
휴면계정 안내
RISS는 [표준개인정보 보호지침]에 따라 2년을 주기로 개인정보 수집·이용에 관하여 (재)동의를 받고 있으며, (재)동의를 하지 않을 경우, 휴면계정으로 전환됩니다.
(※ 휴면계정은 원문이용 및 복사/대출 서비스를 이용할 수 없습니다.)
휴면계정으로 전환된 후 1년간 회원정보 수집·이용에 대한 재동의를 하지 않을 경우, RISS에서 자동탈퇴 및 개인정보가 삭제처리 됩니다.
고객센터 1599-3122
ARS번호+1번(회원가입 및 정보수정)