Q&A

  • 소셜네트워크 데이타 관리 방법 질문드립니다
안녕하세요. 
소셜네트워크 통합관리 홈페이지를 준비중입니다.

구글, 페이스북, 트위터, 링크인, 마이스페이스 기타등등 소셜 사이트에서 오픈API와 oAuth를 이용하여
사진, 동영상, 게시물 데이타를 가져와서 한 화면에 표시할려고 합니다.

포스팅 글 하위에 코멘트도 있을 것이고 가져와야 할 정보가 많겠지요.
이러한 데이타를 가져오고 나서 디비에 저장한 후 웹브라우져에 표시할려고 합니다.
데이타를 가져와서 디비에 쌓는 작업은 백엔드로 배치프로그램으로 처리하고 사용자가 웹페이지에서
로그인 했을 때 실시간으로 포스팅된 글을 가져오도록 할려고 하는데

디비에 쌓는 작업을 할려고 하니 엄두가 안나네요... 왜냐하면 본인 글과 미디어 그리고 친구의 글과 미디어 
예를들어 제게 친구가 100명이 있는데 이 100명의 친구의 글을 가져오니 10,000건 정도 됩니다.
사용자가 10,000명이면 포스팅글 또한 엄청나겠지만 본인글 외에 친구의 글도 가져오니까요.

이러한 데이타를 디비에 쌓을려고 하니까 하루에 1만건 정도 데이타가 쌓입니다.
현재 데이타 쌓는 배치프로그램 만들고 있거든요.

데이타량이 너무 많아서 디비에 자료를 쌓지 않고 실시간으로 그때 그때 오픈api를 이용하여 
포스팅글을 보여줄려니까 1명에 소셜사이트를 10개정도 가지고 있고 이 10개의 소셜사이트에서 오픈api를 이용하여 포스팅된 글을 가져오고 또 코멘트도 가져오고 또 token 제한도 체크해서 토큰이 만료되었으면 갱신도 해줘야 하고 한꺼번에 너무 많은 일을 실시간으로 할려니까 그리고 각 소셜사이트의 속도가 모두 빠르면 상관없지만 간혹 1~2곳에서 느려서 시간이 좀 걸립니다.

제가 문의 드리고 싶은것은 소셜사이트에서 데이타를 가져와서 디비에 저장하고 디비에 저장된 데이타를 웹페이지에 보여줄지 아니면 실시간으로 그때그때 오픈api를 이용하여 ajax로 데이타를 보여주기만 하고 디비에 저장하지 말지 고민입니다.

0  COMMENTS