Colab에서 모델을 학습시키다가 RuntimeError: CUDA out of memory를 마주치면 진행 중이던 학습이 그대로 멈춰버립니다. 특히 무료 티어의 T4(16GB)나 Colab Pro의 A100 일부 사양에서도 배치 사이즈를 조금만 키우면 바로 터지는 경우가 많습니다. 이 글에서는 배치사이즈 조정, gradient accumulation, AMP(자동 혼합 정밀도) 세 가지를 실제 코드와 함께 조합하는 방법을 정리합니다. 단순히 “배치를 줄이세요”에서 끝나지 않고, 왜 그렇게 … Read more
클라우드 API에 매번 요금을 내지 않고도 내 PC에서 무료로 LLM을 돌리는 방법을 찾고 있다면 Ollama가 가장 현실적인 선택지입니다. 이 글에서는 Ollama를 설치해 llama3 모델을 내려받는 과정부터, 터미널에서 대화하는 법, 파이썬 코드로 직접 호출해 응답을 받아오는 방법까지 실제로 실행되는 명령어와 코드로 정리합니다. 설치 경로 선택, 모델 용량, 파이썬 라이브러리와 REST API 방식의 차이까지 다뤄서 따라 하기만 … Read more
캐글(Kaggle) 타이타닉 생존자 예측 대회에 처음 제출하면 대부분 0.76555라는 애매한 점수를 받게 됩니다. 이 글은 그 숫자가 어디서 나오는지 짚어보고, 캐글 타이타닉 정확도 80% 넘기기를 실제로 달성하기 위해 baseline 76.5%에서 순서대로 올린 3단계(성별·등급 규칙 → 특성공학 → 모델 교체)를 코드와 함께 정리합니다. 캐글 계정을 막 만들고 첫 제출을 앞둔 분이라면 이 순서대로 따라 하는 것만으로 … Read more
MNIST 손글씨 숫자 분류는 PyTorch를 처음 배울 때 누구나 거치는 실습이지만, 막상 “MLP와 CNN 중 뭐가 더 나은가”를 숫자로 비교한 자료는 의외로 드뭅니다. 이 글에서는 PyTorch로 MNIST CNN 만들기 과정을 단계별 코드로 보여드리면서, 같은 데이터셋에 대해 MLP와 CNN의 파라미터 수를 직접 계산하고 구조적 차이가 왜 정확도 차이로 이어지는지 정리했습니다. 코드를 그대로 복사해서 실행하면 model.parameters()로 직접 … Read more
transformers 라이브러리의 pipeline(“sentiment-analysis”)은 코드 3줄이면 감정 분석 결과가 나오는 것으로 유명합니다. 그런데 이 3줄 코드를 한국어 문장에 그대로 쓰면 결과가 이상하게 나오는 경우가 많습니다. 이 글에서는 Hugging Face pipeline 3줄 감정분석이 왜 한국어에서 틀리는지 토크나이저 레벨에서 원인을 확인하고, 실제로 쓸 수 있는 한국어 모델 교체 방법까지 정리합니다. 3줄 감정분석 코드, 한국어를 넣으면 무슨 일이 벌어지나 … Read more
머신러닝을 처음 배울 때 가장 많이 마주치는 예제가 붓꽃(Iris) 데이터셋 분류입니다. 하지만 대부분의 글이 KNN이나 로지스틱 회귀 하나만 다루고 끝나서, “그래서 어떤 알고리즘이 더 나은지”는 알기 어렵습니다. 이 글에서는 scikit-learn으로 만드는 첫 분류 모델을 목표로, 로지스틱 회귀·KNN·결정트리·SVM·랜덤포레스트 5개 알고리즘을 동일한 조건에서 학습시키고 정확도를 직접 비교합니다. 코드를 그대로 실행해 볼 수 있도록 전체 스크립트와 예상 출력까지 … Read more
머신러닝을 처음 배우기 시작하면 코드보다 먼저 막히는 부분이 개발 환경 설정입니다. “머신러닝 첫 환경설정, conda vs venv vs uv 뭘로 시작할까”라는 질문은 입문자 커뮤니티에서 거의 매주 반복되는데, 세 도구가 해결하는 문제 자체가 다르기 때문에 비교 글을 여러 개 읽어도 결론이 잘 안 나는 경우가 많습니다. 이 글에서는 세 도구가 실제로 무엇을 관리하는지, 어떤 상황에서 어떤 … Read more
파이썬도, GPU도, 딥러닝 라이브러리도 로컬에 하나 설치하지 않고 딥러닝 모델을 학습시킬 수 있을까요? 결론부터 말하면 가능합니다. 이 글은 Google Colab 무료 GPU로 5분 만에 첫 딥러닝 모델 돌리기를 실제 코드와 함께 처음부터 끝까지 따라 하는 방법을 다룹니다. 설치 과정 없이 브라우저만으로 MNIST 손글씨 숫자를 분류하는 모델을 학습시키고, 정확도까지 직접 확인하는 것이 목표입니다. 이미 Colab이 뭔지 … Read more
“우리 서비스에도 AI 기능 하나 넣어보자”는 말은 요즘 어느 회사 회의실에서나 나옵니다. 그런데 막상 개발팀에 물어보면 돌아오는 대답은 대부분 비슷합니다. “AI 모델을 직접 학습시키려면 시간도, 비용도, 데이터도 부족하다”는 것이죠. 이럴 때 현실적인 답이 바로 API입니다. API를 활용하면 거대한 AI 모델을 처음부터 만들지 않고도, 이미 완성된 AI 기술을 가져다 내 서비스에 붙일 수 있습니다. 오늘은 실제로 … Read more
챗GPT나 미드저니 같은 생성형 AI를 보면 마치 알고리즘 하나가 모든 걸 해결하는 것처럼 느껴집니다. 하지만 실제로 현장에서 AI 프로젝트를 진행해보면 결과물의 8할은 데이터셋 구축 단계에서 이미 결정되어 있다는 걸 알게 됩니다. AI 모델 학습의 첫걸음이라 불리는 이 작업을 어떻게 시작하느냐에 따라 이후 몇 달간의 개발 방향이 통째로 바뀌기도 합니다. 저는 소규모 스타트업에서 이미지 분류 모델을 … Read more