블로그

지능의 대이동: ‘LLM 루프’로 무장한 지식 유목민의 시대가 온다

AI와 대화하는 시대는 지났습니다. 이제는 AI를 ‘루프(Loop)’라는 시스템 속에 넣고, 원하는 결과가 나올 때까지 스스로 개선하게 만드는 ‘지능의 설계자’들이 세상을 바꾸고 있습니다. 단순한 업무 자동화를 넘어, 자신의 전공이 아닌 미지의 영역에서도 문제를 해결해내는 ‘지능의 대이동’이 시작되었습니다. 그 핵심 방법론인 LLM 루프와 이를 통한 새로운 생존 전략을 정리합니다. 왜 AI와의 ‘채팅’은 한계에 부딪히는가 많은 이들이 AI의 … 더 읽기

1개월 전
Dify와 Continue로 만드는 사내 AI

온프레미스 LLM 완전 가이드: Llama 3, Mistral을 사내에 배포하는 방법

GPT-4나 Claude 같은 상용 모델은 성능이 뛰어나지만, 기업 환경에서는 “코드와 데이터가 외부 서버로 전송된다”는 사실 자체가 도입 장벽이 된다. 비용도 문제다. 개발자 50명이 매일 사용하면 월 수백만 원이 나간다. 이 글에서는 Llama 3, Mistral 등 오픈소스 LLM을 사내 서버에 배포하고, Continue나 Dify 같은 도구와 연동하는 실전 방법을 정리한다. 1. 왜 온프레미스 LLM인가 온프레미스 LLM을 선택하는 … 더 읽기

11개월 전
Dify와 Continue로 만드는 사내 AI

Continue에 사내 LLM 또는 OpenRouter를 연동하는 실전 가이드

기업에서 AI 코드 어시스턴트를 도입할 때 가장 먼저 맞닥뜨리는 고민이 있다. “코드가 외부로 나가도 되는가?” 보안 정책상 외부 API를 쓸 수 없거나, 비용을 통제하면서도 여러 모델을 실험하고 싶은 경우가 많다. Continue는 이 두 가지 요구를 모두 충족할 수 있는 유연한 구조를 갖추고 있다. 이 글에서는 Continue에 사내 LLM(vLLM, Ollama 등)과 OpenRouter(멀티모델 게이트웨이)를 연동하는 방법을 실전 … 더 읽기

11개월 전