Google Research의 Minerva는 수식 표기를 보존한 기술 문서로 언어 모델을 추가 학습하고, 여러 풀이의 최종 답에 다수결을 적용하여 수학·과학 문제 해결 성능을 높인 연구이다. 논문: Solving Quantitative Reasoning Problems with Language Models 저자: Aitor Lewkowycz, Anders Andreassen, David Dohan, Ethan Dyer, Henryk Michalewski, Vinay Ramasesh, Ambrose Slone, Cem Anil, Imanol...

이번 글에서는 Resnet을 기반으로 한 여러 image classification 네트워크 들에 대해 정리해보겠습니다. 그 대상은 아래와 같습니다. ResNeXt(2017)-Aggregated Residual Transformations for Deep Neural Networks ResNeSt(2020)-Split-Attention Networks Res2Net(2021)-A New Multi-scale Backbone Architecture ReXNet(2021)-Rethinking Channel Dimensions for Efficient Model Design 본 글에서는 핵심적인 부분에 대해서만 살펴보겠습니다. ResNeXt 설명 ResNext에서는 cardinality라고 하는 개념이 등장합니다....

이 글에서는 MIT 등 연구자들이 STAR benchmark 논문을 간략하게 정리한다. STAR: A Benchmark for Situated Reasoning in Real-World Videos 논문 링크: STAR: A Benchmark for Situated Reasoning in Real-World Videos Repo: http://star.csail.mit.edu/#repo Github: https://github.com/csbobby/STAR_Benchmark NIPS 2021 Bo Wu(MIT-IBM) et al. Abstract 주변의 상황으로부터 지식을 얻고 그에 따라 추론하는 것은 매우...

이 글에서는 Python 라이브러리인 os와 platform에 대해 알아본다. 가끔 쓰는데 막상 쓰려면 언제 봐도 헷갈리는 라이브러리 중 하나인 듯 하다. Import import glob import os import platform – glob 특정 경로에 존재하는 파일 or 디렉토리의 리스트를 불러온다. 현재 디렉토리의 구조가 다음과 같다고 하자. current ├── .gitignore ├── readme.md ├── data...

이번 글에서는 tabular 데이터에 대해 Transformer를 적용하여 새로운 알고리즘을 고안한 논문에 대해 다뤄보겠습니다. 논문 원본은 이 곳에서 확인할 수 있습니다. 공식 repository는 awslabs-autogluon-tabtransformer를 확인하시면 되는데, 그대로 사용하기에는 어려운 부분이 있을 것입니다. 따라서 아래 두 깃헙도 참고하면 좋습니다. 깃헙1 깃헙2 본 글에서는 핵심적인 부분에 대해서만 살펴보겠습니다. Tab-Transformer(Tabular Data Modeling using contextual...