[제 41회 T dev Forum] Big Data (발표 유투브 링크)

1. 제 41회 TDF - "Opening Speech"  https://www.youtube.com/watch?v=k8gMpeHae1s 2. 제 41회 TDF - "Data Driven Industry Reinvention" https://www.youtube.com/watch?v=mDus2eQIFL0 3. 제 41회 TDF - "Big Data & Industrial IoT for Smart Factory"  https://www.youtube.com/watch?v=bblxtNO232Y 4. 제 41회 TDF - "Mining Big Data" https://www.youtube.com/watch?v=xAUCyVRSX-k 5. 제 41회 TDF - "SKT Big Data 사업 추진 전략" https://www.youtube.com/watch?v=LecdlHprius 6. 제 41회 TDF - "예지 정비(PdM)방법과 알고리즘"  https://www.youtube.com/watch?v=fuBSW0VDVt0 7. 제 41회 TDF - "SKT Big Data Discovery Solution"  https://www.youtube.com/watch?v=1Z5hysVU1eY 8. 제 41회 TDF - "Big Data Visualization"  https://www.youtube.com/watch?v=dVYvWOvcFNM 9. 제 41회 TDF - "SKT Big Data Hub" https://www.youtube.com/watch?v=0Pmfd9TPm3Q

[facebook fastText] supervised classification 예제

이미지
1. fastText란? fastText is a library for efficient learning of word representations and sentence classification 2. 소스 위치 ( github) https://github.com/facebookresearch/fastText 3. 빌드 $ git clone https://github.com/facebookresearch/fastText.git $ cd fastText $ make 4. 예제 실행 $ git clone https://github.com/facebookresearch/fastText.git $ cd fastText $ ./classification-example.sh 4-1. 테스트 환경 준비 https://raw.githubusercontent.com/le-scientifique/torchDatasets/master/dbpedia_csv.tar.gz 를 다운로드 The DBpedia ontology classification dataset is constructed by picking 14 non-overlapping classes from DBpedia 2014.  They are listed in classes.txt. From each of thse 14 ontology classes , we randomly choose 40,000 training samples and 5,000 testing samples. Therefore, the total size of the training dataset is 560,000 and testing dataset 70,000 . The files train.csv and test.csv contain all the training samples as comma-sparated values. There are 3 columns in the...

공공데이터(openapi) 사용법 (특정 정류소, 버스의 남은 좌석 확인 하기)

회사가 출퇴근 자율제에 주 40시간 근무 규정이 생긴지 몇달이 되어간다. 출근할 때 버스의 남은 좌석을 안다면 편한 나의 출근 시간을 정할 수 있을텐데.. 우선 남은 버스 좌석 데이터를 모으면 어떻게(통계, Regression, 딥러닝 등) 해서라도 위 궁금증을 해결할 수 있으리라 생각한다. 그래서 아래와 같이 데이터 취합을 시도했다 1. 공공데이터 사이트에 가입하기  - https://www.data.go.kr/   - 파일데이터/OpenAPI/표준데이터 제공 2. 로그인 => 데이터셋 => Open API 선택 => 기관별 선택  => "버스도착정보 조회" 검색 후  개발 계정 신청 (IE 9 이상에서만 신청 가능)  - 정류소와 노선번호를 기준으로 첫번째, 두번째 도착 예정 버스의 위치정보와 도착 예정시간, 빈자리 지상버스 정보를 REST SOAP 방식의 API로 제공  - 일반/서버 유형 선택 가능  - 일일 트래픽 1000 제한 (?) (why? 개발 계정이기 때문에)    - 운영(서비스)계정 활용 신청 시 필요한 트래픽을 요청할 수 있음 3. 마이페이지 => OpenAPI => 개발계정 => 인증키 신청 후 => 인증키 발급 현황에서 확인 가능  - 나의 인증키 : OSE.....%3D 4. 경기버스정보에서 Rest API를 통해서 데이터 수집 가능 - 버스도착정보항목조회 - https://www.gbis.go.kr/gbis2014/publicService.action?cmd=tBusArrivalItem - 노선 ID와 정류소 ID는 어떻게 아는 거지?   - 기반정보조회 테스트에서 다운로드 링크 확인 후 txt 파일 다운로드해서 확인 가능     - routeId=204000057     - station...

TensorFlow 설치 (우분투 14.04 64bit, 2016-05-16)

2016년 5월 16일 기준으로 TensorFlow를 아래와 같이 설치를 진행하였다. 우분투 14.04 64bit에 설치를 진행하였다 기록 차원에서 아래와 같이 정리한다 1. GPU 기능을 활용하기 위해서 nvidia 드라이버를 설치한다 $ sudo apt-get install nvidia-current nvidia-settings 2. Python 개발 환경을 Anaconda로 설치한다 Anaconda 사이트에서 설치 파일을 다운로드 후 설치를 진행한다 (https://www.continuum.io/downloads#linux) Ubuntu 14.04 64비트에는 python이 디폴트로 2.7 버전이 설치되어 있으므로 Python 2.7버전을 다운 받아서 설치한다 $ bash ./Anaconda2-4.0.0-Linux-x86_64.sh 3. cuda 패키지를 설치한다 $ sudo dpkg -i ./cuda-repo-ubuntu1404-7-5-local_7.5-18_amd64.deb  $ sudo apt-get update $ sudo apt-get install cuda $ sudo apt-get install nvidia-cuda-toolkit 4. bashrc에 아래 설정을 추가한다 export CUDA_HOME=/usr/local/cuda-7.5  export LD_LIBRARY_PATH=${CUDA_HOME}/lib64  export PATH=${CUDA_HOME}/bin:${PATH}  5. cudnn을 다운로드 후 include와 lib을 cuda 설치 위치로 복사한다 cudnn-7.0-linux-x64-v4.0-prod.tgz copy /usr/local/lib64 include 6. TensorFlow 설치를 한다 $ source ~/anaconda2/bin/activate ~/anaconda2/ (/home/...

알파고의 딥 러닝 금융업 적용 사례 (KB 지식 비타민)

딥러닝 금융업 적용 사례 투자자문 및 트레이딩 경제 및 금융시장의 현재 상황 분석 및 미래를 예측해 투자자문 서비스 및 트레이딩에 활용 이미 많은 그뮹기관과 핀테크 기업들이 금융공학과 머신러닝을 활용한 알고리즘 트레이딩 기법 활용 기존 알고리즘 트레이딩 기법에 딥러닝을 활용하여 더 정확하게 미래를 예측하는 것이 가능해짐 많은 논문과 연구 등을 통해 과거에 비해 향상된 예측 능력 입증 주가예측 (이벤트 사용) 경제 뉴스, 기업공시 등 주요 이벤트의 개선된 인식과 이에 따른 주가흐름을 학습, 과거의 단어 인식 기법 대비 미래의 주가 예측력 향상 과거 단어 인식 기법들 대비 정확도 향상 주가예측 (시장지표 사용) 전 세계 주요 시장지표의 과거데이터 학습을 통해, 서로의 상관관계에 따른 미래의 주가 흐름 예측 통계학적 기법 대비 예측 정확도 향상 기업 부도 예측 기업들의 주가 수익률 자료를 그래프로 변환해 컴퓨터에 인식, 부도 기업들과 정상 기업들의 그래프 특징을 파악해 부도율 예측 모델 구축 관련 문서 링크 https://www.kbfg.com/kbresearch/processFileDownloadManager.do?file_name=20160502085841_1.pdf&alias=vitamin&viewFunc=default_details&categoryId=3&subCtgId=&menuId=&boardId=&articleId=1003274

python으로 키움증권 Open API 를 이용해서 주식 정보 조회하기

이미지
1. 우리은행에 가서 키움증권계좌 개설 2. 키움증권 사이트 및 아래 사이트 참고하여 Open API 사용 신청 및 기본 사용 진행 윈도우즈 환경만 지원 https://wikidocs.net/1815 3. python 설치 python 3.4.x 버전 설치를 위해 아래 Anaconda3 2.3.0 버전 설치 python 2.7은 아래 소스 미지원 python 3.5는 아래 소스에서 에러 발생 Anaconda3-2.3.0-Windows-x86.exe 4. python 개발 환경을 위해 PyCharm 무료 버전 설치 pycharm-community-5.0.3.exe 5. TR를 이용한 주식정보요청 테스트 아래 사이트에서 가져왔습니다.  https://wikidocs.net/3130 Appendix: 소스 #-*-coding: utf-8 -*- import sys from PyQt4.QtGui import * from PyQt4.QtCore import * from PyQt4.QAxContainer import * class MyWindow (QMainWindow) : def __init__ (self) : super().__init__() self.setWindowTitle( "PyStock" ) self.setGeometry( 300 , 300 , 300 , 400 ) self.kiwoom = QAxWidget( "KHOPENAPI.KHOpenAPICtrl.1" ) self.kiwoom.connect(self.kiwoom, SIGNAL( "OnReceiveTrData(QString, QString, QString, QString, QString, int, QString, QString, QString)" ),...

Yocto Project Quick Start

문서 정보     2015년 9월 11일 기준으로 작성 0. Reference sites     Yocto Project Quick Start     http://www.yoctoproject.org/docs/current/yocto-project-qs/yocto-project-qs.html     전반적인 설명이 쉽게되어 있다     Ubuntu 14.04 64bit에서 위 사이트를 보고 간단히 플랫폼 빌드를 하고 Qemu Emulator로 부팅을 해보자 1. Environment     테스트를 위해 기본적으로 필요한 패키지를 설치한다     Ubuntu and Debian     $ sudo apt-get install gawk wget git-core diffstat unzip texinfo gcc-multilib \     build-essential chrpath socat libsdl1.2-dev xterm 2. Building an Image     $ git clone http://git.yoctoproject.org/git/poky         - 178M     $ cd poky     $ git checkout -b fido         Fido 1.8         Dizzy 1.7.2         Daisy 1.6.3     $ source oe-init-build-env               $ bitbake -k core-image-sato ...

bash 스크립트 디버깅

각 명령어 표시 bash -x 스크립트파일명.sh 명령어+부가정보 표시 export PS4='+${BASH_SOURCE}:${LINENO}:${FUNCNAME[0]}: ' bash -x 스크립트파일명.sh 파일명, 행번호, 항수명도 출력됨

[NEMO-UX] 소개

이미지
NEMO-UX 소개   NEMO-UX 데모 동영상 리스트 시연 영상 NEMO-UX 데모 PPT 관련 사이트 사이트:  http://www.nemoux.net/ 블로그 :  https://nemoux00.wordpress.com/ 발표 자료:  http://www.slideshare.net/nemoux/presentations NEMO-UX목표 대형+멀티터치 스크린에 적합한 다중 사용자/서비스를 지원하는 새로운 형태의 UX 플랫폼(윈도우 매니저+툴킷 엔진) 개발 NEMO-UX세부 목표 (a) 다중 사용자/서비스 지원 여러 사용자가 동시에 독립적인 서비스를 수행하거나 협업할 수 있는 환경 제공 (b) 윈도우 그룹 지원 사용자별로 윈도우 그룹을 생성/관리하므로 다수의 윈도우를 효과적으로 제어 (c) 사용자 중심 인터페이스 지원 기존 입력 장치 지원(키보드/마우스) SVG 기반 애니메이션, 물리 효과, 동작 인식 등 직관적인 인터페이스 제공 (d) 레이거시 지원 기존의 X, wayland 응용 서비스 호환

Tizen common profile의 emulator용 image 만들어서 부팅

Tizen common profile의 emulator용 이미지를 만들어 보자 그리고 다음 포스팅에는 만든 이미지를 qemu와 kernel을 빌드해서 부팅 시켜 볼 예정이다 1. mic 설치     - 아래 사이트 참조해서 설치하고 사용법을 보면 된다.   - https://source.tizen.org/ko/documentation/reference/mic-image-creator 2. common profile 의 x86 이미지들   - 아래 사이트를 참조하자     - http://download.tizen.org/snapshots/tizen/common/latest/images/   - 아래와 같이 x86 이미지는 4가지 종류가 있다     - emulator32-wayland     - ia32-wayland     - x86_64-wayland     - x86_64-x11   - emulator32-x11, ia32-x11은 왜 빼 먹었지? 3. emulator32-wayland 이미지 만들어 보기   - 아래 링크에서 ks 파일을 다운 받는다     - http://download.tizen.org/snapshots/tizen/common/latest/images/emulator32-wayland/common-emulator-wayland-mbr-i586/   - 다운 받은 파일을 test.ks라고 하자   - 아래와 같이 ks 파일을 이용해서 emulator용 이미지를 만들 수 있다     - $ sudo mic create loop test.ks 4. ia32-wayland를 emulator용 이미지로 만들어 보자   - ia32-wayland 의 아래 링크에 ...

Build & Run Emulator for Tizen on Yocto Project (Tizen Distribution)

Tizen on Yocto를 Tizen Distribution으로 준비 중으로 보인다. 아래 사이트를 참조 - https://wiki.tizen.org/wiki/Build_Tizen_with_Yocto_Project#Fetch_the_source Tizen on Yocto 프로젝트 소스를 다운받아서 Emulator 용도로 빌드 후 실행해 보고자 한다 1. 소스 다운로드 - 아직 완성 단계는 아닌가 보다 - $ giit clone https://github.com/eurogiciel-oss/tizen-Distro.git - 아래 빌드 및 실행 테스트는 master branch의 아래 commit 상에서 진행하였다 -- commit 9c1557060ef6a49d474f07418c95099c33e8c907 -- Date:   Mon Dec 15 18:02:02 2014 +0100 2. 빌드 환경 구성 - $ cd tizen-Distro - $ source ./oe-init-build-env ./build_qemu - conf/local.conf 파일에서 Emulator용도로 빌드하기 위해서 MACHINE 부분을 아래와 같이 수정 -- MACHINE ??= "qemux86" 3. 빌드 - $ bitbake -k tizen-common-core-image-minimal-dev - 빌드 결과물은 아래와 같이 생성되었다. -- KERNEL: [tmp-glibc/deploy/images/qemux86/bzImage-qemux86.bin] -- ROOTFS: [/opt/tizen/tizen_dist/tizen-Distro/build_qemu/tmp-glibc/deploy/images/qemux86/tizen-common-core-image-minimal-dev-qemux86-20141228123222.rootfs.ext3 - 여기서 생성된 커널은 사용하지 않고 이미지만 사용한다 - 위 이미지를 아래...

StarCraft (broodwar game) in Tizen smartphone emulator (using wine)

이미지
예전에 Youtube에 올린 wine으로 Tizen Emulator에서 StarCraft 돌린 영상이 생각나네 현재까지 한 11,000명 정도가 봤군... 이번 기회에 Tizen에 wine을 포팅이나 해볼까...? Tizen mailing list에 wine 포팅 할 사람 없나요? 라는 글을 보니....함 할까 고민중....

[Tizen] Common Emulator

이미지
Tizen Common Emulator에 대해서 간단히 정리하고자 한다 아래 사항은 Tizen wiki를 기준으로 작성을 할 예정이다. 1. Tizen Common Profile이란? - https://wiki.tizen.org/wiki/Common - Tizen common은 Mobile, IVI 등의 common base 이다, vertial profile은 아니다 2. 빌드 - https://wiki.tizen.org/wiki/Emulator 참조 1)  최신 이미지 다운로드 - http://download.tizen.org/releases/daily/tizen/common/latest/images/emulator32-wayland/common-emulator-wayland-mbr-i586/ - 이미지를  다운 받아서 압축을 풀면 "tizen-common.img"이 생성된다 2)  커널을 빌드한다 - $ git clone git://review.tizen.org/sdk/emulator/emulator-kernel - $ cd emulator-kernel - $ git checkout tizen - $ build_x86.sh 3). swap 파티션을 만든다 - $ truncate -s 1024 ./swap.x86 4). qemu를 빌드한다. - $ git clone git://review.tizen.org/sdk/emulator/qemu - $  cd qemu - $ git checkout tizen -$ ./configure \ --target-list=i386-softmmu \ --enable-werror --disable-gtk \ --audio-drv-list=alsa \ --disable-vnc --disable-pie \ --enable-sdl --with-sdlabi=1.2 \ --enable-vigs --en...

Open webOS 빌드 및 실행 (LG에 인수된 webOS)

Yocto를 혼자 가지고 놀던 중 아래 사이트를 보게 되었다 http://www.openwebosproject.org/docs/build_guide/ LG에 인수된 Open webOS.... 한번 빌드 하고 실행해 봐야지...ㅋㅋ 우선 소스를 받는다 $ git clone https://github.com/openwebos/build-webos.git 아래와 같이 빌드 전에 미리 환경 설정하는 것을 스크립트로 잘 짜여 놓았다. Ubuntu 14.04 64bit 에서 빌드 및 테스트를 수행해나갔다. 공식 지원되지 않지만 스크립트를 수정해서 빌드를 진행하였다. $ sudo scripts/prerequisites.sh qemux86 emulator로 테스트해보기 위해서 아래와 같이 소스를 fetch한다 $ ./mcf -p 0 -b 0 qemux86 이제 전체 소스를 빌드 한다 $ make webos-image 아래와 같은 에러가 출력 된다. WARNING: Host distribution "Ubuntu-14.04" has not been validated with this version of the build system; you may possibly experience unexpected failures. It is recommended that you use a tested distribution. 12.04가 아니라고 투덜.... 실행 가이드에는 아래와 같이 쓰여 있다 $ cd BUILD-qemux86 $ source bitbake.rc $ runqemu webos-image qemux86 qemuparams="-m 512" kvm serial 하지만 뭔가 이상하다 BUILD-qemux86 디렉터리도 없고 bitbake.rc 파일도 없다 우선 아래와 같이 진행한다 $ cd BUILD $ source oe-init-build-env 이제 다시 실행해 본다 $ r...

Android TV Emulator 사용기

이미지
설치 adt-bundle-linux-x86_64-20140702 Android SDK Manager sdk/tools/android 실행  디폴트 추가 설치 (17 packages 설치됨) 설치된 TV 이미지 확인 Android TV ARM EABI v7a System Image Android TV Intel x86 Atom System Image Android Virtual Device(AVD) Manager eclipse를 통해 실행 (프로세스명은 뭐지?) Template 확인 Android TV (1080p) by Google Screen 55.0'', 1920x1080, X-Large xhdpi RAM: 2GiB Android TV (720p) by Google Screen 55.0'', 1280x720, X-Large tvdpi RAM: 2GiB Virtual Device에 설정 가능한 옵션 Device: template 선택 가능 Target: API 레벨 선택 CPU/ABI: x86, ARM 선택 Keyboard: Hardware keyboad present 선택 Skin: 여러 스킨 선택 (TV 스킨 없음) Memory: 사이즈 선택 및 VM heap 사이즈 선택 Internal storage: 사이즈 선택 SD card: 사이즈 등 선택 Emulator options: snapshot, gpu 가속 선택 Emulator 실행 화면 GPU 가속을 사용하지 않으면 화면 출력이 되지 않음 (부팅 실패?) GPU 가속을 선택할 경우 snapshot은 사용 불가 마우스 wheel 사용 가능 IP 설정 ? 대부분의 App 실행이 안됨 adb 접속 # cd sdk/platform-tools/ # ./adb devices List of devices attached  emulator-5554 device # ...

Usage of repo

0. repo 란?   -Git repository 관리 툴 1. repo 준비   - $ curl https://android.git.kernel.org/repo > repo   - $ chmod a+x repo 2. repo 사용   - $ repo init -u [manifest git url] -g [group] -b [branch] 3. 자주 사용하는 명령어   - $ repo help list   - $ reop sync -j3     -  $ repo sync [PROJECT_LIST]     -  $ repo sync [dir]/*    - $ repo list   - $ repo start [branch명] --all   - $ repo abandon [branch명]   - $ repo diff [PROJECT_LIST]   - $ repo upload [PROJECT_LIST]   - $ repo forall -c "git config user.email dkyun77@gmail.com"

Android(java) 개발 코드 리뷰 팁 하나

울 회사의 어떤분이 정리한 자료를 참조하여 요약 정리 ========================================================= Step #1 -------------- FileInputStream fin = null; try {     fin =  new FileInputStream("testfile");     fin.read()...       fin.close(); // 뭐가 문제? } catch(IOException e) {     e.printStackTrace(); } ========================================================= Step #2 -------------- FileInputStream fin = null; try {     fin =  new FileInputStream("testfile");     fin.read()...     } catch(IOException e) {     e.printStackTrace(); }finally {      fin.close(); // finally를 통해 어떤 상황에서도 호출 보장 } ========================================================= Step #3 -------------- FileInputStream fin1 = null, fin2 = null; try {     fin1 =  new FileInputStream("testfile");     fin1.read()...       ...