[Week 12- Day 2] 회고

# 오늘 하루 어떻게 살았나?

<pre-type>entity 실험

 

soft-voting fn 리더보드 제출 후, github에 push (4등까지 올라갔당)
hidden_emb 코드 정리 후, github push

entity의 pre-type부분을 한글로 변경하여 실험

weighted ensemble 구현하여, 리더보드 제출

pre-type을 함께 입력으로 준 model의 sweet spot 찾기

 

 

# 피드백

- sh 명령어로 프로젝트 실행 명령을 가능하도록 해서, sh cmds.txt 명령어를 주어 여러 개의 테스트를 한 번에 진행할 수 있었다. 이처럼 구현을 어느정도 마무리하고 나면 확인하고 싶은 것에 대해 정리하여 한 번에 돌리는 것이 실수할 위험을 많이 줄여주는 것 같다.

 

## 실험 정리

entity 쪽에 pre-type 달아주는 것에 대한 실험을 진행했다.

entity의 시작 위치를 각각 입력으로 주고, lr이 2e-5로 동일한 환경에서 진행하였다.

 

- pre-type이 아예 없음 (no-pre-type)

- pre-type이 영어임 (pre-type)

- pre-type이 한국어임 (pre-type-kor)

위 세 가지 경우에 대한 실험을 진행하였는데, 결과적으로 영어로 pre-type을 달아줄 때 가장 좋은 성능을 보였다.

 

pre-type이 없는 것보다는 있는 게 local 에서 더 좋은 성능을 보였는데, 리더보드 상에서는 pre-type가 없는 것이 더 좋은 점수를 보여주었다. 따라서 일반화 성능은 pre-type이 없는 것이 더 좋은 것으로 분석하였다.