본문 바로가기
728x90
[상세한 논문 리뷰] 3D-LLM: Injecting the 3D World into Large Language Models 논문 원본 https://arxiv.org/abs/2307.12981  AbstractLarge language models (LLMs)과 Vision-Language Models(VLMs)는 빠른 속도로 성장하고 있습니다. 그러나 실제 물리 세계와 가장 연관이 깊은, 3D 데이터를 설명하는 LLM은 이전까지 다루어지지 않았습니다. 본 연구는 3D 데이터를 설명하는 Large language model을 제안합니다.3D 데이터로 널리 알려진 point cloud 데이터를 input으로 하여, 다양한 3D 관련 task들을 수행하게 됩니다.Introduction지난 몇 년간, GPT4와 같은 LLM 모델들은 빠른 성장을 해왔습니다. 그러나 실제 세계와 연관된 3D 데이터를 다루는 연구는 많지 않았습니다. .. 2025. 3. 10.
6. The Binomial Distribution (이항 분포) 본 포스팅은 충남대학교 이윤희 교수님의 수리통계및실습 수업과 Probability and Statistical Inference(Hogg, Tanis, Zimmerman 저)를 참고하였습니다. 우리가 고등학교 때 배운 binomial distribution은 다음과 같습니다. space of X가 discrete한 타입에 대해서 성공할 확률을 p 실패할 확률을 q (= 1-p)라고 했을 때 x번 성공할 확률을 계산하는 방법입니다. 위 식은 그때의 p.m.f.를 나타낸 것입니다. 총 n번의 시행 중 x만큼의 성공을 함으로 C(n, x)를 통해 성공 회차의 index를 결정하고 서로 다른 시행에서 성공과 실패는 independent하기 때문에 위와 같은 식이 나옵니다. Def) Bernoulli experi.. 2023. 9. 26.
2.1. Decision Tree (의사결정 나무) 본 포스팅은 충남대학교 박정희 교수님의 기계학습 수업과 으뜸 머신러닝 (강영민 , 박동규 저)를 참고하였습니다. 결정 트리를 이용한 분류결정 트리는 decision tree라고도 합니다. 결정 트리는 귀납 추론을 위해 자주 사용되는 실용적인 방법입니다. 일반적인 트리 구조를 생각 해보면 가장 위에 루트 노드(root)에서 시작하여 차례로 중간 노드(internal)들을 거쳐 단말 노드(leaf)로 마무리 되는 구조입니다. 결정 트리도 일반적인 트리 구조를 따라 루트 -> 중간 -> 단말 순으로 알고리즘을 실행합니다. 이렇게 순차적으로 내려가는 방식을 rule - base라고 합니다.그림을 살펴보면 '공의 크기' 부분이 가장 위에 있으므로 루트 노드입니다. '경기장 중앙 네트', '손을 쓰냐' 부분은 중간.. 2023. 9. 22.
5. Moment-Generating-Function (모멘트 생성 함수) 본 포스팅은 충남대학교 이윤희 교수님의 수리통계및실습 수업과 Probability and Statistical Inference(Hogg, Tanis, Zimmerman 저)를 참고하였습니다. Def) Mean, Variance, Standard Deviation (1)은 평균을 정의한 것 입니다. 지난번 수리통계 포스팅에서 expectation에 대해 정의하였는데, Mean은 expectation에서 U(x)값이 x가 되는 것을 의미합니다. 우리가 일반적으로 알고 있는 평균의 정의와 같습니다. (2)는 분산을 정의한 것 입니다. 일반적으로 E[(x - b)^2]을 minimal하게 만드는 b값은 E[x] 즉, Mean이 되는데 그 값이 바로 분산입니다. E[(X - m)^2]으로 정의했으므로 expec.. 2023. 9. 19.
4. Mathematical Expectation 본 포스팅은 충남대학교 이윤희 교수님의 수리통계및실습 수업과 Probability and Statistical Inference(Hogg, Tanis, Zimmerman 저)를 참고하였습니다. Def) Mathematical Expectation continuous 타입에서도 mathematical expectation을 정의할 수 있지만 우선 discrete 타입에서 정의해보겠습니다. 그런데 정의를 보면 아래와 같은 가정을 하고 있습니다. 이 가정이 붙는 이유는 간단합니다. 실수 해석학에서 배운 내용이지만 절대값이 converge이면 절대값이 없는 것도 converge함을 알고 있습니다. mathematical expectation에서 f(x)는 p.m.f.으로 어차피 양의 값을 가집니다. 그렇기 때문.. 2023. 9. 18.
728x90