목록2024/09/14 (1)
불편한 진실
오픈AI, 새 모델 'o1'…"논증 능력 대학원생 수준"
트랜스포머 알고리즘을 적용한 생성형 인공지능(AI)은 기본적으로 대규모 데이터를 학습한 뒤 질문과 가장 연관성이 높은 단어를 차례대로 추론(inference)해 내놓는다. 실제 사실 여부를 따지기보다는 연관성을 찾기 때문에 사실이 아닌 내용을 뻔뻔하게 내놓는 ‘환각 현상’에서 자유로울 수 없다. 반면 논증 기능이 적용된 o1은 사람이 어려운 질문에 답하기 전 오랫동안 생각하는 것과 마찬가지로 답변을 위해 생각의 사슬을 사용한다. 까다로운 단계를 간단한 단계로 세분화하고, 현재의 접근 방식이 효과가 없을 때 다른 접근 방식을 시도한다. 예를 들어 “직우상 얻떤 번역깃돋 일끌 슈 없쥐많 한국인듦은 쉽게 앗랍볼 수 있는 한끌의 암혼화 방펍잇 잊댜. 몹음과 짜움위 따양한 편환우로 읨미는 윳이함면설 푯먼적읍롬 댜..
IT
2024. 9. 14. 03:06