# train & eval 차이, resnet.fc 필요 train하고 eval하는 코드는 다르다. train에서는 model(X)라면, eval에서는 model(X).argmax(dim=-1)을 해줘야 한다. 그래야 batch_size만큼의 list로 돌아옴. -> 이건 더 조사 필요 resnet을 통과 후에 18개의 클래스로 분류해야 하기 때문에 resnet.fc 에 Linear() 설정이 필요함. 원래 다양한 loss함수를 시도했는데, 원하는 포맷이 다른 함수도 있었다. Acc를 직접 구현하니 .backward()에서 미분 허용해야 한다는 ㅇ류가 떠서, required_grad=True 로 하는 방법을 찾아봄. 나중에 피어세션에서 이를 Variable()에 넣어주면 float()형 변환이나 미분 허..

# AlexNet 학습시키기 생각보다 많이 헤맸다. 특히 자료형이나 shape을 맞춰주는 게 까다로웠어서 정리해둔다. # GPU 사용 print(f"CUDA: {torch.cuda.is_available()}") device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # train AlexNet alexnet = tvmodels.alexnet(pretrained=True).to(device) loss_fn = FocalLoss() optm = torch.optim.Adam(alexnet.parameters(), lr=0.01) for epoch in range(20): avg_loss = [] for i, (img, label) in ..

# House Prices 에서 평가한 Model 분석 Model 이름 특징 평가지표 값 (RMSE) Lasso Regression 차원 축소를 사용한 선형회귀. 평균과 같이 데이터의 중심점을 향해 축소되며, 이상치가 있는 데이터에 적합. 0.1115 Elastic Net Regression Lasso와 Ridge를 선형적으로 결합한 정규화된 회귀 방법. sum_of_squared_residuals + Lamb_1*variables + Lamb_2*variables 0.1116 Kernel Ridge Regression Kernel Trick을 활용한 회귀 방법. 입력 값을 Kernel 함수를 활용하여 Mapping한 값으로 예측하는 방법. Why to use Kernel Trick? 2차원 데이터를 3..

# [Kaggle] Stacked Regression: Top 4% on LeaderBoard ** 진행한 Feature Engineering 작업 Imputing missing values : 순차적으로 처리 Transforming : 수치형 변수 → 카테고리형 변수 Label Encoding : 순서있는 카테고리형 변수 Box Cox Transformation : skewed features에 대해서 log transformation하는 것보다 나은 성능을 보여줌 Getting dummy variables : 카테고리형 변수 ** Id 열 제거 (예측하는데 도움이 되지 X) ** Outliers 제거 GrLivArea와 SalePrice의 상관관계에서, 지나치게 큰 GrLivArea인데 SalePri..

# 커리어 🍯팁 AI competition (ex. Kaggle) 최신 논문 재현 (-> Demo page) 모든 것을 다 잘하는 것보다는 강력한 한 방이 있는 게 좋음. AI 포지션은 완전히 합의되지 않았으니, 모집공고를 꼼꼼히 살펴보자. 내가 속한 그룹이 얼마나 성장에 도움이 되는지 판단하여, 최고의 선택지로 만들기. # Docker 환경 설정 - MySQL 설치 -> 이미지 - jupyter notebook 설치 # docker 상태 확인 및 실행 systemctl status docker systemctl start docker systemctl enable docker ## 캐글 스터디 모르는 단어 정리 * AXI https://blogs.nvidia.co.kr/2021/07/27/what-is..

# 카톡 메시지 많이 보낸 상위 3개 아이디 https://imomelet.tistory.com/134 # Docker 로 jupyter notebook 설치하기 1. local의 jupyter notebook에서 mlflow 설치하기 (OK) (단, mlflow ui 하면 403 error 뜸 => ngrok으로 외부 컴퓨터에서 접근 가능한 링크 만들어서 확인) https://stackoverflow.com/questions/61615818/setting-up-mlflow-on-google-colab !pip install mlflow --quiet !pip install pyngrok --quiet ### 코드 작성 및 실험 로깅 # run tracking UI in the background get..