OpenRouter 사용기

최근 부트캠프 강의를 통해 강사님이 잠깐 언급을 하신 OpenRouter를 직접 결제하고 사용해 보았다. 간단하게 설명하면 OpenRouter는 다양한 AI 모델을 하나의 API로 통합해서 사용하게 해주는 서비스이다. 주로 메이저 한 AI 모델을 다루다 보니 특정한 혹은 마이너 한 모델은 허깅 페이스에서 찾아봐야 할거 같다.

 

후기

주요 장점 및 특징은 통합 인터페이스, 과금 체계, 다양한 모델 선택 및 비교가 있는데, 실제 사용할때는 하나의 채팅창에서 복수의 모델을 선택하고 프롬프트를 작성하면 동시에 모델이 작동하게 된다. 거기서 결과값, 토큰, 소요 시간 등을 볼 수 있는데, 하나하나 직접 비교를 해야 하는 부분에서 사용성이 좋다는 생각이 들지는 않았다.

 

정확한 비용은 사용 내역에서 테이블 형태로 조회가 가능한데 이것도 채팅창에서 바로 확인이 가능하게 설계가 되어야한다고 생각한다. 어쨌든 모델 별로 토큰의 입력, 출력량과 비용, 속도도 조회가 가능해서 모델 별로 비교 분석이 가능한 게 가장 큰 장점이라고 생각한다.

 

이를 통해서 현재 기획하고 있는 서비스에 적합한 AI 서비스 및 모델도 검색하고 비용도 추산하여 서비스의 가격에 반영이 가능하였다. 특히 모델 별로 비용이 적게는 10배 가까이 차이가 나는 경우가 많아서 AI 서비스 개발 비용 최적화를 위해서는 도움이 많이 되는 서비스라고 생각한다.

OpenRouter 사용 내역

 

단점으로는 조금 아쉬운 사용성 및 사용자 흐름, 고급 설정의 부재, 부족한 모델 템플릿 기능 등이었지만 단점에도 불구하고 본격적인 AI 기반 서비스를 기획한다면 꼭 사용해야할 서비스라고 생각한다.

 

결론

OpenRouter를 통해 다양한 AI 모델 비교를 쉽고 효율적으로 만들어주며, 다소 아쉬운 사용성은 있지만 이 부분은 비교적 쉽게 해결되는 문제라고 생각한다. 특정 서비스가 어떤 AI 모델을 사용하는지도 확인이 가능해서 만약 비슷한 도메인의 서비스 기획을 고려한다면 레퍼런스를 찾기에도 좋은 서비스라고 생각한다. ChatGPT 등의 AI 서비스를 사용해 본 경험만 있는 기획자 혹은 개발자라면 쉽게 접근이 가능하기 때문에 추천한다.

 

https://openrouter.ai/