또 다른 AI 모델이 AI 모델의 바다에 합류했고, 이 모델은 OpenAI에서 다시 나왔습니다. OpenAI는 올해 GPT-4o를 출시했는데, 이는 GPT-4보다 효율적일 것으로 예상되었습니다. 하지만 여전히 상당히 비쌌고, 특히 하루 종일 앱의 API를 통해 AI 모델을 반복적으로 호출해야 하는 개발자에게는 상당한 비용이 발생할 수 있습니다.
결과적으로 개발자들은 Gemini 1.5 Flash나 Claude 3 Haiku와 같은 경쟁사의 저렴한 소형 AI 모델로 전향하게 되었습니다.
이제 OpenAI는 가장 비용 효율적인 모델인 GPT-4o mini를 출시하면서 소형 AI 모델 공간에도 진출합니다. GPT-4o mini는 지금까지 가장 저렴한 모델이지만 지능을 줄여서 그렇게 낮은 비용을 달성한 것은 아닙니다. 기존 GPT-3.5 Turbo 모델보다 더 똑똑합니다.
OpenAI에 따르면, GPT-4o mini는 MMLU(Measuring Massive Multitask Language Understanding)에서 82%를 기록하여 많은 모델을 능가했습니다. 이는 다양한 모델의 점수입니다: GPT-3.5 Turbo(70%), Claude 3 Haiku(75.2%), Gemini 1.5 Flash(78.9%). GPT-4o는 이 벤치마크에서 88.7%를 기록했으며, Gemini Ultra가 가장 높은 점수인 90%를 기록했습니다(이것들은 소규모 AI 모델은 아닙니다).
GPT-4o mini는 오늘 ChatGPT Free, Team 및 Plus 사용자와 개발자에게 출시됩니다. ChatGPT 사용자의 경우 본질적으로 GPT-3.5를 대체했습니다. GPT-4o mini는 무료 GPT-4o 쿼리가 소진되면 대화가 기본적으로 사용하는 모델이 됩니다. 개발자는 여전히 API를 통해 GPT-3.5를 사용할 수 있지만 결국 중단됩니다. ChatGPT Enterprise 사용자는 다음 주에 GPT-4o mini에 액세스할 수 있습니다.
위에서 언급했듯이, GPT-4o mini의 초점은 개발자가 앱에 적합한 저비용 및 지연 모델을 찾는 데 도움을 주는 것입니다. 다른 소형 모델과 비교했을 때, GPT-4o mini는 텍스트와 비전 모두에서 추론 작업, 수학적 추론 및 코딩 작업, 멀티모달 추론에서 탁월합니다.
현재 API에서는 텍스트와 비전을 모두 지원하고 있으며, 향후 로드맵에서는 텍스트, 이미지, 비디오, 오디오 입력 및 출력을 지원할 예정입니다.
GPT-4o mini는 요청당 입력을 위한 128K 토큰과 출력을 위한 16K 토큰의 컨텍스트 창을 가지고 있으며, 해당 지식은 2023년 10월까지 유효합니다. 또한 영어가 아닌 텍스트도 비용 효율적으로 처리할 수 있습니다.
답글 남기기