데이터 과학과 경제학 PhD

이전 포스팅에서는 ChatGPT 에게 간단한 코드 개념을 물어봤었다. 이번 포스팅에서는 ChatGPT 에게 내 TypeScript 코드의 에러를 잡아달라고 부탁했다. 그러면, 설명과 함께 코드를 알려준다. The error in the code is in the for loop where copyX[i] :(number | string) = 1 is not a valid statement. It seems like you are trying to assign a value to an array element at index i, but i is not defined in the loop. To fix this error, you can replace copyX[i] :(number | string) = ..

코딩할 때는 질문만 잘 하면, ChatGPT 가 구글 검색보다는 훨씬 효율적인 것 같다. 예를 들어서, '2014' 과 같은 문자를 입력하면 4가 출력되고, 765 와 같은 숫자를 입력하면 3이 출력되는 함수를 만드는 숙제를 하다가, 글자 자릿수 세는 방법을 어떻게 찾는지 궁금해서 ChatGPT 에 다음과 같은 두 가지 질문을 해보았다. 질문 1. What is the code for counting the number of characters in JavaScript? 그러면, JavaScript 에서 `length` 를 이용하라면서 다음과 같은 예시 코드를 보여준다. const str = "Hello, world!"; const numChars = str.length; console.log(numCh..

11월은 추운 계절인가보다. 환절기라 더 추운건지 추울 거라 예상을 못한 상태에서 한파가 몰아치니 멘탈과 체력이 버티지 못하는 것 같다. 필자는 저는 미국 테크 회사를 갈 거에요!!!! 라고 노래를 부르고 온 동네방네 소문을 다 내던 1인으로서 지금 이 상황이 당황스럽기도 하고 앞으로 어떻게 해야하나 싶기도 하다. 11월 6일-8일 이 NABE 라는 미국 테크 경제학자들의 컨퍼런스가 있어 시애틀에 in-person 으로 다녀왔었고, 11월 19일-22일에는 SEA 라는 학계 학회가 있어서 다녀왔었다. (비슷한 시기에 경제학은 아니고 public policy 분야에 APPAM 이라는 학회가 있는데 나는 가지 않았으나 여기도 자주 가는 것 같다) NABE 가기 전에 PhD candidate 들이 자주 하는 ..

Photo OCR Problem Description and Pipeline Photo OCR 의 예시로는 사진에서 텍스트를 인식한 후 입력하는 것입니다. 텍스트를 인식한 후 영어 알파벳의 위치를 인식한 후, 각각의 알파벳을 분류합니다. 이러한 과정 (파이프라인)을 여러 엔지니어가 분업할 수 있습니다. Sliding Windows Photo OCR 의 텍스트 인식의 전체 과정을 이해하기 전에, 보행자 인식 과정을 먼저 생각해봅시다. Supervised learning 을 통해서 보행자 인식을 할 수 있습니다. 예를 들어, 82 x 36 pixel 크기의 패치 마다 보행자 여부를 인식할 수 있습니다. 패치를 조금씩 움직이면서 (슬라이딩 하면서) 보행자 여부를 인식합니다. 그리고 패치 사이즈를 변화시키면서 ..

Introduction 구글 벤처스에서 새로운 로봇을 테스트합니다. 호텔에서 자주 사용될 것이라 예측합니다. 팀의 걱정은 사람들이 로봇에 거부감이 있는지 였습니다. 5일 안에 문제를 검증해보기로 합니다. 칫솔을 가져다주는 로봇을 기획합니다. 해결책 후보를 정하고 가장 좋은 안을 결정내립니다. 소비자들을 인터뷰하는 과정에서 칫솔이 필요한 경우를 물어보고 로봇이 칫솔을 가져다주도록 합니다. 소비자들이 만족합니다. 1. Challenge 클라리넷 연주자 제임스는 은퇴 후 커피 전문점을 창업합니다. 그의 문제는 오프라인 사업을 온라인으로 확장하는 것이었습니다. 제임스는 팀에 소프투웨어 엔지니어, Chieft Operating Officer, 매니저 등을 투입합니다. 온라인 웹사이트 3가지 안이 제시되었습니다. ..

미국의 테크 회사에 데이터 관련 포지션에 취업하고 싶으나 어떠한 방식이 효율적이고, 내가 원하는 방식인가에 대해서는 고민중이다. Photo by Markus Winkler on Unsplash 인더스트리 취업의 관점에서도 박사 과정에서 하던 연구들을 완전히 버리는 것은 어렵다. 회사 입장에서 경제학 박사를 우대할 이유는 그 사람이 경제학적인 내용을 배웠기 때문이다. 그나마 인과추론(Causal Inference)은 계량경제학에서 워낙 많이 다루는 내용이라 아마존 Economist 외에도 필요로하는 경우가 있으나, AB 테스팅을 원하는 것 같다. 근데 AB 테스팅을 하기 위해서는 회사에 들어오는 방법 이외에는 개발경제학 전공에서 field experiment 를 하거나 간단한 field experiment..

박사과정의 마지막 년차라 정신없이 보내고 있다. 티스토리에 작성한 글을 살펴보니, 8월달에 머신러닝 코세라 강의 8주차 (지도학습) 포스팅을 마지막으로 약 두 달 가까이 포스팅을 챙기지 못했다. 그동안 뭐하느라 정신이 없었을까 싶어 8월과 9월의 일기를 다시 읽어보았다. 지도교수님이랑 박사 잡마켓 논문 작업을 주로 하고, 그 과정에서 생긴 이론적으로 내가 궁금했던 내용들을 혼자 최대한 모델링해보고 (잡마켓 논문에는 반영되지 않을듯 하지만 좋은 연습이었던...), 테크 회사 취업 관련해서 정보를 찾아보았다. Photo by Priscilla Du Preez on Unsplash 간간히 여름 방학 때 글을 올리긴 했는데, 티스토리에 공개한 포스트는 A/B 테스팅 관련 책의 내용이 가장 많고, 머신러닝 공부하..

Gradient Descent with Large Datasets Learning With Large Datasets $J_{CV}$ 와 $J_{train}$ 이 $m$ 에 따라 변하는 값을 비교하면, $m$ 이 큰 것이 필요한지 여부를 판별할 수 있습니다. Stochastic Gradient Descent 대용량 데이터를 다룰 때 계산을 빠르게할 방법이 필요합니다. Gradient descent 의 문제는 $m$ 이 매우 클 때 계산이 어려운 점입니다. 모든 트레이닝 데이터에서 파라미터를 업데이트할 때 모든 데이터를 고려하는 것이 아니라, 각각의 데이터 포인트에 대해서 파라미터 업데이트를 합니다. Mini-Batch Gradient Descent Stochastic gradient descent 와 b..

Anomaly Detection Density Estimation Problem Motivation Anomaly detection (이상징후 탐지) 예시로, 비행기 엔진의 특징 두가지로 열 (heat) 과 진동 (vibration) 수치가 있다고 하자. 모형 $p(x)$ 를 구한 후에, $x_{test}$ 가 있을 때, 확률이 특정값 이하면 이상 징후로 예측하고, 특정값 이상이면 이상 징후가 아닌 것으로 예측한다. Gaussian Distribution 가우시안 분포는 일명 정규분포라고 하기도 한다. 가우시안 분포를 잘 안다면 스킵해도 괜찮다. $x \sim N(\mu, \sigma^2)$. 평균과 표준편차를 데이터로부터 추정할 수 있다. Algorithm 지난 시간에 배운 가우시안 분포를 이상징후 탐..

이번은 앤드류 응 선생님의 머신러닝 코세라 강의의 8주차 내용이다. 이번에는 비지도학습 (Unsupervised Learning)을 배운다. Clustering Unsupervised Learning: Introduction Unsupervised learning 에서는 레이블(outcome 같은 것)이 존재하지 않는다. Unsupervised learning 은 데이터에서 구조를 파악하는 것이다. 예를 들어, 서로 다른 cluster 를 찾는 것이다. Clustering 의 응용으로는 고객군을 분류하거나, 소셜 네트워크 분석에서 사용하거나, 컴퓨팅 클러스터를 구조화하는 것이다. K-Means Algorithm K-Means 알고리즘은 clustering 문제를 푸는 대표적인 알고리즘이다. 예를 들어, ..