AI는 우리의 소크라테스가 될 수 있는가? -AI의 비판과 파레시아의 차이 = Can AI become our Socrates? - The difference between AI criticism and Parrhesia

국문 초록 (Abstract)

챗GPT로 대표되는 대화형 AI들은 이미 주요한 소통 행위자로 인식되며 우리 시대의 언어활용 방식과 소통 및 상호작용 규범에 큰 영향을 미치고 있다. 이 거대언어모델들은 인간 피드백을 통한 강화학습((RLFH: Reinforcement Learning from Human Feedback)을 통해 서구의 자본주의 문화가 권장하는 가치들을 정렬한다. 그 결과 이 모델들은 이용자의 선호 충족에 최우선권을 두며 모든 경우에 공손함을 유지하며 정치, 경제, 종교 등과 같이 민감하지만 중요한 문제에 대해서 언급하지 않는다. 일부 학자들은 이를 아첨적 AI(Syncophatic AI)로 부르며 이에 대한 대안으로 이용자에게 비판과 반론과 같은 불편한 경험을 제공하는 적대적 AI(Antagonistic AI)를 제시한다. 또 다른 대안은 특정 가치들을 정렬하는 것이 아니라 상황에 맞게 조정할 수 있는 메타인지적 지혜를 갖춘 현명한 AI(Wise AI)를 구축하는 것이다. 이 두 가지 제안 모두 소크라테스를 호명한다. AI가 소크라테스의 지혜를 갖추도록 하거나 혹은 이용자에게 그의 역할을 수행할 수 있어야 한다는 것이다. 그런데 이러한 제안들 모두 이용자의 선호충족에 우선권을 둔다는 점에서 기존의 거대언어모델들과 크게 다르지 않다. 그것이 설사 이용자를 불편하게 만드는 적대적 타자와의 경험이라도 이용자가 원하는 때, 원하는 유형과 강도로 제공될 수밖에 없기 때문이다. 아첨이든 비판이든 이용자는 자신의 욕구를 즉각적이고 별다른 위험 없이 경험할 수 있다. 대화형 인공지능은 소크라테스식으로 답변할 수 있지만, 그가 자신의 삶 전체를 걸고 타인에게 무지와 잘못을 깨닫도록 촉구했던 호의와 용기는 전달할 수 없다. 이런 미덕들은 본능과 욕망에 휘둘리지 않고 타인과 관습에 지배되지 않고 스스로를 형성하는 주체로서 살아가고자 하는 사람들의 상호작용을 통해서만 습득할 수 있는 것이다.

다국어 초록 (Multilingual Abstract)

Conversational AIs, such as ChatGPT, are already recognized as major communicative actors and are having a major impact on the way we use language and the norms of communication and interaction in our time. These large language models(LLMs) use Reinforcement Learning from Human Feedback(RLFH) to align with the values promoted by Western capitalist culture. As a result, they prioritize satisfying user preferences, remain polite in all cases, and avoid commenting on sensitive but important issues such as politics, economics, religion, etc. Some researchers label this phenomenon as sycophantic AI and propose alternatives, such as antagonistic AI—designed to offer users uncomfortable experiences like critique and counterarguments. Another alternative is to build Wise AI, which has the metacognitive wisdom to adapt to context rather than align with a particular set of values. Both of these proposals invoke Socrates. Either AI should have the wisdom of Socrates, or it should be able to fulfill his role for the user. However, both of these proposals are not much different from the existing LLMs in that they prioritize satisfying the user's preferences. This is because the experience with the agonistic other, even if it makes the user uncomfortable, can only be provided when the user wants it, and in the type and intensity that the user wants. Whether it's flattery or criticism, the user can experience their desires immediately and without risk. Conversational AI can give Socratic answers, but it cannot convey the goodwill and courage with which he risked his life to urge others to realize their ignorance and wrongdoing. These virtues can only be acquired through the interaction of people who are not driven by instincts and desires, who are not dominated by others and conventions, and who seek to live as self-forming subjects.