[잡담] 개인이 돌리는 로컬 LLM은 한계가 명확하네

5천번대 나온지가 언젠데 얘는 출시한지도 모르고 

gemma 4세대 돌리고있는데 자기 모델이 뭔지도모름 쟤의 데이터속에는 2세대가 최신임ㅋㅋ 참고로 2세대는 24년중반에 나온 2년전 모델임 

그래도 LLM돌리는 사람들은 알겠지만 26b면 개인이 돌리는거중에선 중급 내지 중상급형정도는 되는데 그나마 다른얘들 저사양 모델에 비하면 몇배는 똑똑한편인데 이정도임 

몰론 장점도있음 채팅수 무제한에 검열도 존재하지않음 좀 쉽게말하면 2년전 제미나이 gpt 좀 멍청했을때(?)수준의 지능을 가진 놈을 검열없이 채팅수 제한없이 무제한으로 돈안내고 굴리면 된다고 보면됨