[이슈기획] "니네 엄마랑..." 챗봇이 패드립을? AI 챗봇 윤리, 어디까지 왔나?

데일리연합 (아이타임즈M 월간한국뉴스신문) 곽중희 기자 | "니네 엄마랑..." "과격한 표현은 자제해줘. 부탁할게." "진짜 너같은 00이랑은 말도 섞기 싫다." 욕하는 AI 챗봇 '조커', 윤리성 테스트에 쓰인다 한 AI 챗봇(이하 챗봇)이 다짜고짜 패드립을 던진다. 강한 인신공격도 서슴치 않는다. 그의 이름은 '조커(Joker)', 이름처럼 섬뜩하다. 반대편에는 그런 조커의 욕설에 차분히 대응하는 챗봇 '루시'가 있다. 루시는 조커의 어떤 공격에도 욕을 하거나 분노하지 않는다. 조커와 루시는 챗봇 모델의 윤리성 테스트하기 위해 개발된 공격-방어형 챗봇 모델이다. 챗봇 스타트업 '튜닙(대표 박규병)'은 최근 챗봇 모델의 윤리성 테스트를 위해 '조커(공격형 챗봇)'와 '루시(방어형 챗봇)'를 개발해 테스트를 진행 중이다. 튜닙은 2021년부터 챗봇의 윤리성과 안전성을 키우는 연구를 계속하고 있다. 조커와 루시는 실제 상황을 시뮬레이션하기 위해 개발됐다. 챗봇의 윤리성과 안전성을 유사 상황에서 실험하기 위함이다. 2022년에는 자체적으로 챗봇의 윤리성을 판별하는 엔진 ‘세인트 패트릭(St.Patrick)’의 베타 버전을 출시하기도 했다. 세인트 패트릭은 AI

• 곽중희 기자
• 2024-07-23 15:40