본문 바로가기

llm3

[내 PC 집 밖 접속 분투기 1] 외부 접속을 위한 투자비용 15,400원!! 시놀로지 NAS를 구매하였을 때, 별도 비용 없이 QuickConnect를 통해 쉽게 외부에서 접속할 수 있었기에 PC도 어렵지 않게 외부 접속이 가능할 것으로 생각하였으나, 전혀 아니었습니다. Ollama 기본 설치 상태에서는 보안상 로컬(127.0.0.1) 접속만 허용되어 별도의 환경 변수(OLLAMA_HOST=0.0.0.0) 설정 없이는 외부 접속이 차단된다는 점을 몰라서 한참 헤매다가 삭제하였고, Docker와 Ollama 조합의 경우에도 WebUI, AnythingLLM이나 Dify와 같은 별도의 도구가 필요했습니다. IP는 공유기가 재부팅될 때마다 변경되어 IP 입력 접속하는 방식은 사용하기 어려웠고, 결국 도메인까지 구입하게 되었습니다. 내부 포트 충돌로 삭제, 재 설치를 반복했고, 공유기 .. 2026. 8. 4.
[제미나이 프롬프트] 과연 나는 AI 잘 쓰고 있을까요? 착각을 깨부수는 Key Point 7 저는 개인적으로 AI를 그래도 많이 사용한다고 생각하고 있었습니다. 근데 얼마 전 코멘토에서 진행하는 AI 교육을 수강할 기회가 있었는데 제가 착각하던 것들이 있어 정리해 봅니다.가장 유용했던 내용 중 하나는 Gemini Chat 창에서 Shift + Enter를 치면 줄 바꿈이 된다는 것이었습니다. 이걸 몰라서 내용을 많이 쓸 때는 메모장에 작성하여 붙여넣기를 하곤 했었는데, 이걸 아니까 더 편하게 사용할 수 있었습니다. 그래서 주변에도 공유하면 좋겠다는 생각이 들어, 중요하다고 생각했던 7가지를 정리해 보았습니다.1. 한 번에 모든 내용을 지시하지 않는 것이 좋습니다.AI에게 복잡한 결과물을 요구할 때, 단일 프롬프트에 모든 요구사항을 담는 것은 비효율적입니다. 거대 언어 모델(LLM)이 한 번에 처.. 2026. 7. 17.
[Local LLM 서버 구축기 1] 집에서 놀던 6년된 DELL Optiplex XE3-i5 8500 Local LLM 서버 구축기 작년 Local LLM 붐이 일어났을 때, 문득 집에서 놀고 있던 DELL Optiplex 모델을 활용해 볼 수 없을까?라는 궁금증과 함께 배보다 배꼽이 큰 개조 작업을 진행하였고, 구축 6개월이 지난 지금 안정화를 거쳐 문제없이 Local LLM 을 잘 구동하고 있어 비슷한 도전(?) 하시는 분들께 도움이 되도록 글을 남겨봅니다. 결론적으로, DELL Optiplex 를 사용하기 위해 아래 부품을 신규 구입하였습니다- PC Case (신품, 30,000 원)- 600W 정격 Power (신품, 36,000 원)- Power 와 DELL 메인보드 연결을 위한 6핀 변환 어댑터 (Ali 신품, 3800원)- NVIDIA GeForce RTX 3060 12GB (중고, 290,000 원)- (3개월 이.. 2026. 7. 6.

티스토리툴바