클라우드플레어, 결정 모델 Clef 오픈소스 공개
클라우드플레어가 결정 모델 Clef와 Clef-flash를 오픈소스로 공개했습니다. 글을 길게 쓰는 대신 정해진 선택지마다 확률만 돌려줘서, 에이전트가 티켓을 어느 팀에 보낼지, 급한지 같은 판단을 빠르게 내리게 하는 모델입니다.
클라우드플레어 자체 측정으로 결정 모델 지수에서 Clef가 61.2점, 원조 격인 Jev가 57.9점이었습니다.
응답 시간 중앙값은 Clef 209ms, Clef-flash 39ms로 Jev의 524ms보다 짧았습니다.
Jev와 달리 이미지도 분류하고, 한 번에 읽는 분량도 두 배인 6.4만 토큰입니다.
허깅페이스에 Apache 2.0으로 풀었고, 자기 데이터로 강화학습 미세조정하는 서비스도 함께 내놨습니다.
출처 클라우드플레어 공식 블로그
광고
카드 내용
- 결정 모델이란글 대신 선택지별 확률을 냅니다
티켓을 넣으면 담당 팀과 긴급 여부를 확률로 답합니다. 에이전트는 이 값으로 바로 다음 행동을 고릅니다.
출처: 클라우드플레어 공식 블로그 - 성능 · 자체 측정Jev보다 높은 점수, 더 짧은 응답 시간
점수는 Clef 61.2, Jev 57.9입니다. 응답 중앙값은 209ms 대 524ms였습니다.
출처: 클라우드플레어 공식 블로그 - 강화학습 미세조정자기 데이터로 다시 길들일 수 있습니다
실제 요청 기록으로 과제와 보상을 정해 다시 학습합니다. 고른 체크포인트를 Workers AI에 바로 올립니다.
출처: 클라우드플레어 공식 블로그
광고
