수학자들은
오픈AI 가 인공지능으로 생성한 719개의 수학 원고를 신뢰할 수 있는지에 대해 의문을 제기하고 있습니다. 앞서 발표된 논문에서 오픈AI의
나비에-스토크스 정립식이 컴퓨터 검증을 거친 버전과 일치하지 않는다고 지적했기 때문입니다.
핵심 요점:
- OpenAI는 부호 오류를 이유로 논문 3편을 목록에서 제외한 후, 해당 논문 목록이 722편에서 719편으로 줄어들었습니다.
- 영국에 거주하는 세 명의 수학자가 나비에-스토크스 방정식의 서면 증명과 린(Lean) 코드에서 서로 다른 두 지점을 발견했습니다.
- 저자들은 증명이 틀렸다고 말하는 것은 아니지만, 기계 검증이 동료 검토를 대체할 수는 없다고 말합니다.
OpenAI 수학 릴리스
해당 회사는 10월 6일에 해당 컬렉션을 공개했는데, 목요일에 발표된 보고서에 따르면 이 컬렉션이 독립적인 수학자 패널이 AI 연구소를 위해 작성한 지침을 준수하지 않은 것으로
나타났습니다 . 카탈로그는 722개의 원고로 시작되었지만, 부호 오류로 인해 하나의 논증과 이를 기반으로 한 두 편의 논문이 오류를 일으킨 후, 오픈아이(OpenAI)는 하루 만에 세 개의 원고를 삭제
했습니다 .9인으로 구성된 수학 및 인공지능 자문 그룹 이 9월 29일에
발표한 이 지침은 연구소들이 자체 개발 모델을 이용해 고급 수학 문제를 테스트하는 것을 중단해 달라는 요청으로 시작합니다. 오픈AI 저장소에 따르면 해당 논문들은 공개되지 않은 내부 모델을 사용하여 공개 연구 문제를 평가한 결과입니다.
모델의 추론 과정에 대한 요약은 10개의 결과에만 제공되며, 주요 결과의 약 42%는 컴퓨터가 증명을 검증할 수 있도록 하는 프로그래밍 언어인 Lean으로 형식화되었습니다.
관련 기사: 앤트로픽 CEO의 연봉은 얼마일까요? IPO 서류에 답이 있습니다
나비에-스토크스 증명 간극
킹스 칼리지 런던의 알렉산더 바스토니 스와 케임브리지 대학교의
파비안 치르첼리 ,
안데르스 한센은 오픈AI가 9월에 발표한 나비에-스토크스 증명을
검토했습니다 . 그들은 논문에 제시된 논증과 린(Lean) 코드가 서로 다른 두 지점을 발견했는데, 그중 한 곳에서는 코드가 논문에서 제시된 것보다 약한 추정치를 증명했습니다.
저자들은 서면 증명이 정확한지에 대해서는 어떠한 주장도 하지 않는다고 밝혔습니다. 그들의 요점은 더 좁습니다. 린(Lean)은 최종 정리가 성립함을 확인시켜 주지만, 사람이 읽는 중간 단계가 타당하다는 것을 증명할 수는 없으므로 그러한 증명은 여전히 동료 검토가 필요하다고 저자들은 설명했습니다.필즈상 수상자인
테렌스 타오는 10월 6일, 인공지능 프롬프터가 문제를 해결하고 있지만, 이 인공지능들은 결과를 충분히 이해하지 못해 질문에 답하거나 관련 설명을 할 수 없다고 지적했습니다. 자문 그룹 구성원인 하버드대 교수
멜라니
매체트 우드는 이러한 결과가 발표되더라도 그 내용을 이해하는 사람은 아무도 없다며, “이제부터 본격적인 연구가 시작된다”고 말했습니다.
OpenAI 증명 논쟁
자문단은 오픈아이언이 자신들의 권고 사항을 얼마나 잘 따랐는지는 수학계 전체가 판단할 수 있다고 밝혔습니다. 이러한 검토는 긴장감이 감돌았던 지난 한 달 동안의 상황에 따른 것입니다. 오픈아이언은 9월 8일 나비에-스토크스 방정식 결과를 발표했는데, 이는 뉴욕대학교 수학자
트리스탄 버크마스터 와의 공로 인정 분쟁을 촉발시켰고 , 3일 후 25명의 필즈상 수상자들은 대량 생산되는 AI 결과가 해당 분야에 해를 끼칠 수 있다는 경고 성명을 발표했습니다.
