일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
- DataFrame Spark
- 데이터 시각화
- SparkSQL
- 데이터엔지니어링
- 도커
- spark explode
- PySpark
- explode
- spark df
- 프로그래머스 파이썬
- docker
- 시각화
- tableau
- 코테
- 빅쿼리
- 로컬 pyspark
- 비주얼라이제이션
- pyspark오류
- BigQuery
- sparkdf
- dataframe
- airflow
- ifkakao2020
- spark #스파크
- 빅쿼리 튜닝
- Docker error
- Big Query
- 태블로
- 도커exec
- 도커오류
- Today
- Total
목록About Data (30)
SOGM'S Data
NDCG란? (Normalized Discounted Cumulative Gain) - 추천시스템에서 랭킹 추천 분야에 많이 쓰이는 평가지표 - 기존 정보검색에서 많이 쓰였으며 , 특히 상위의 랭킹 리스트가 하위 랭킹 리스트 보다 확연하게 중요한 도메인에서는 유용한 평가 기준 Ex) TV나 영화 프로그램 K개를 랭킹순으로 추천해주는 도메인 우선 CG라는 개념을 알아야 합니다. Cumulative Gain(CG)란 관련성 점수를 합한 값입니다. 이때 관련성 점수는(Relavance Score) 는 사용자가 추천된 각 아이템을 얼마나 선호하는지를 나타내는 점수입니다. 보통의 경우 raw_data의 rating 값이 많이 사용됩니다. 이때 사용자 u가 item j에 대한 관련성 점수를 rel_uj라 할 때 이..
카카오에서 지난 11월 if(kakao)2020으로 다양한 강의들이 마련되어있었다. 그중 추천팀에서 시행한 개인화 콘텐츠 푸시 고도화 후기 강의를 듣고 나름대로 정리를 해보았다. 1. 콘텐츠 푸쉬에 대하여. 어떠한 Business Problem을 Machine Learning System를 잘 설계해서 풀고, 서비스에 적용해서 성과를 낼 수 있음. 문제 & 설계 : 문제 정의& 그것을 해결하기 위한 시스템 설계 * 알고리즘은 자세히 다루지 않는다. 콘텐츠를 push 하는 경우의 목적: 유저 활성화 - 잘 안쓰는 사람을 쓰도록 만드는 것. (비활성화 유저) - 이미 쓰는 사람이 더 많이 쓰게 만드는 것. (활성화 유저) 비활성 유저들은 푸시를 거의 클릭하지 않는다!. 해결방안은? 누구나 좋아하는 컨텐츠를 ..
Collaborative Filtering for Implicit Feedback Datasets, IEEE 오늘 날 추천시스템의 가장 큰 줄기가 되는 MF기법중 사용자가 아이템에 남긴 평점(Explicit Datasets)이 아닌 Implicit Feedback Dataset을 이용하는 추천시스템이다. 우리 사회의 대부분의 비지니스는 고객이 어떤 물건에 평가하고 점수를 메기는 데이터를 가지고 있지않다. 즉, 대부분의 데이터는 사용자가 어떠한 item을 봤거나 , 구매 이력, 혹은 마우스 움직임까지 로그로 기록되어 있는 implicit data 이다. 이 논문은 implicit data를 다룰 때 explicit data를 다루는 알고리즘과 구분 짓기 위한 implicit data의 몇 가지 특징들을 다..
이해하면 까먹고 , 손에 잡힐 것 같으면서 안잡히는 PCA를 이해해봅시다. 직관적인 이해를 위해 수학적인 요소는 빼보았습니다! 일단 거두절미하고 PCA의 가장 큰 목적은 차원을 축소하고 차원을 추출하는데 필요합니다. 우선 PCA(Principal component analysis)는 주성분 분석을 뜻하는데, 위와 같은 그림은 우리가 흔히 PCA를 볼때 가장 잘 아는 그림입니다. PCA는 어떠한 데이터 분포를 분산이 가장 큰 방향으로 정사영하며 이뤄진다. 즉, 어떠한 데이터의 분포를 설명할 때 2가지 벡터로만 간단하게 설명하고 싶다면? 위에 있는 두 화살표들(벡터들) 이 데이터의 분포를 가장 잘 설명할 수 있는데 해당 벡터들은 분산이 가장 큰 방향으로 생성된다는 뜻입니다. 아래 쉬운단어로 표현했습니다. 예..
SVD 말로만 들어도 헷갈리는 이론을 한 번 직관적으로 풀어나가보고 싶어나가보겠습니다. 고유값 고유벡터를 배우면서 SVD,PCA와 같은 차원축소에 대해 궁금하신 분들이 많을 것입니다. 이 글을 통해 SVD를 설명하고 간단한 데이터 셋으로 SVD(Truncated 된)를 이용한 추천시스템 구현을 설명하고자합니다. (단 이 글은 고유값과 고유벡터의 정의와 구하는 방식을 아신다고 가정하고 글을 썼습니다) SVD란 무엇인가? (Singular Value Decomposition, 특이값 분해) 출처:www.fun-coding.org/recommend_basic6.html 데이터 분석(추천시스템): SVD (SVD와 Latent Factor 모형) - 잔재미코딩 $$ r_{ui} = p_u \cdot q_i $$..