"New AI fake text generator may be too dangerous to release, say creators" (2019 Guardian headline)

Reddit 원문 페이지는 403을 돌려줘 RSS 본문과 댓글을 기준으로 옮겼어요. 원 게시물은 짧은 글이에요.

게시물 내용

작성자(u/Frail_Waif)는 위키백과를 보다가 2019년 2월 Guardian 기사 "New AI fake text generator may be too dangerous to release, say creators"를 발견했다며, 당시를 기억하는 사람도 있겠지만 다시 보니 웃기다고 소개했어요. 인용한 구절은 이래요.

"OpenAI ... says its new AI model, called GPT2 is so good and the risk of malicious use so high that it is breaking from its normal practice of releasing the full research to the public in order to allow more time to discuss the ramifications of the technological breakthrough."

OpenAI가 새 모델 GPT-2가 너무 뛰어나고 악용 위험이 커서, 평소처럼 연구 전체를 공개하지 않고 파장을 논의할 시간을 갖겠다고 했다는 내용이에요.

"One is its size, says Dario Amodei, OpenAI's research director. ... It was trained on a dataset containing about 10m articles, selected by trawling the social news site Reddit for links with more than three votes. The vast collection of text weighed in at 40 GB, enough to store about 35,000 copies of Moby Dick."

당시 OpenAI 연구 책임자였던 다리오 아모데이가 차이점 중 하나로 규모를 들며, Reddit에서 추천 3개 이상 받은 링크로 모은 기사 약 1,000만 건, 40GB(『모비 딕』 약 3만 5천 권 분량)로 학습했다고 설명한 대목이에요. 작성자는 "어떤 사람들은 절대 안 변한다"고 덧붙였어요.

댓글 반응

• "이 다리오 아모데이라는 사람 AI를 좀 아는 것 같은데, 요즘 뭐 하나?"라는 농담과, 특이점에 대한 시를 쓰고 VC에게 읽는 값을 받는다는 받아치기가 이어졌어요.
• 작성자는 "그 사람도 샘 올트먼도 다른 회사나 정부를 불법 해킹할 만큼 큰 모델을 책임진 적은 없을 것"이라고 비꼬았어요.
• 한 댓글은 '초대형' GPT-2가 15.5억(1.55B) 파라미터였다고 짚었어요.