[카테고리:] tensorflow

tensorflow 테스트

tensorflow 1.10 설치기
아나콘다에 tensorflow를 설치하여 사용했다. 그러나 1.6버전 이후로 tensorflow를 import하면 illegal instruction을 내고 죽었다. 혹시나 해결되었는지 1.10으로 업데이트하여 확인했다. 그러나 역시 같은 문제로 1.5로 다시 돌어왔다.

검색해 보니, 구글이 제공하는 tensorflow binary 1.6이후 파일이 cpu의 AVX를 기본지원한다. 인텔이 2008년 자사 CPU에 AVX 기능을 적용했다. 불행히도 나는 골동품 투반을 사용한다. CPU를 도저히 교체할 상황이 아니라, 힘들게 컴파일 하기로 했다. ~~담에는 intel cpu를 쓰리라.~~

아래 순서로 작업했다.
1. 1. nvidia 드라이버 설치. 390버전을 ubuntu 16.04가 지원하지 않아 과감히 패스.
  2. cuda 등 설치. 컴파일하면 다양한 버전을 선택할 수 있다.
  3. tensorRT 설치. 컴파일 하기전 선택할 수 있음.
  4. 매뉴얼에 따라 tensorflow 1.10 컴파일.
  5. virtual environment 사용하여 설치. anaconda에 대해 구글이 알아서 해결하라 주의라, 패스.
  6. 가상 환경에서 activate 후, 내가 컴파일한 tensorflow 설치.
투반이 6개 코어를 100% 가동하여 5,000초 동안 작업했다.ㅠㅠ
2018-08-12

Monte Carlo Method 코드 분석

여기에 있는 코드 참조..
책은 “파이썬과 케라스로 배우는 강화학습” 내용.

Monte Carlo Method의 코드가 설명되어 있지 않아, python 디버그로 그 결과를 잠깐 살폈다.

메인 코드.

# 메인 함수
if __name__ == "__main__":
    env = Env()
    agent = MCAgent(actions=list(range(env.n_actions)))

    for episode in range(1000):
        state = env.reset()
        action = agent.get_action(state)

        while True:
            env.render()

            # 다음 상태로 이동
            # 보상은 숫자이고, 완료 여부는 boolean
            next_state, reward, done = env.step(action)
            agent.save_sample(next_state, reward, done)
            ##테스트용.
            print(agent.samples)
            print("\n")

            # 다음 행동 받아옴
            action = agent.get_action(next_state)

            # 에피소드가 완료됐을 때, 큐 함수 업데이트
            if done:
                print("episode : ", episode)
                agent.update()
                agent.samples.clear()
                break

6번행: episode를 1,000번 반복.
10번행: 무한번 반복이나, 25번 결과를 보고 break 결정. done은 15번 행에서 업데이트.

(Pdb) l
109                 # 보상은 숫자이고, 완료 여부는 boolean
110                 next_state, reward, done = env.step(action)
111                 agent.save_sample(next_state, reward, done)
112                 ##테스트용.
113                 print(agent.samples)
114  ->              print("\n")
115     
116                 # 다음 행동 받아옴
117                 action = agent.get_action(next_state)
118
119 # 에피소드가 완료됐을 때, 큐 함수 업데이트
(Pdb) l
120 if done:
121 print("episode : ", episode)
122 agent.update()
123 agent.samples.clear()
124 break
[EOF]
(Pdb) p agent.samples
[[[0, 0], 0, False], [[0, 1], 0, False], [[1, 1], 0, False], [[1, 2], -100, True]]
(Pdb)

에피소드가 끝나면, 자신이 방문한 모든 셀을 list로 기억.
아래 좌표 중, 행과 열이 바뀜.

22번행: 현재 스테이트에서 다음 스테이트를 예측.

(Pdb) l
 27             for reward in reversed(self.samples):
 28                 state = str(reward[0])
 29                 if state not in visit_state:
 30                     visit_state.append(state)
 31                     G_t = self.discount_factor * (reward[1] + G_t)
 32  ->                  value = self.value_table[state]
 33                     ##테스트..
 34                     print("Value is ",value)
 35                     self.value_table[state] = (value +
 36                                                self.learning_rate * (G_t - value))
 37     
(Pdb) 
 38                     print("Value state is", state)
 39                     #print("type of value_table is", type(self.value_table))
 40                     print("Value table is", self.value_table)
 41                     #print("Value table is",self.value_table[state])
 42     
 43                     print("\n")
 44     
 45         # 큐 함수에 따라서 행동을 반환
 46         # 입실론 탐욕 정책에 따라서 행동을 반환
 47         def get_action(self, state):
 48             if np.random.rand() < self.epsilon:
(Pdb) n
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(34)update()
-> print("Value is ",value)
(Pdb) n
Value is  0.0
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(35)update()
-> self.value_table[state] = (value +
(Pdb) n
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(36)update()
-> self.learning_rate * (G_t - value))
(Pdb) 
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(38)update()
-> print("Value state is", state)
(Pdb) 
Value state is [1, 2]
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(40)update()
-> print("Value table is", self.value_table)
(Pdb) 
Value table is defaultdict(<class 'float'>, {'[0, 0]': 0.0, '[0, 1]': 0.0, '[1, 0]': 0.0, '[1, 2]': -0.9, '[2, 1]': 0.0, '[1, 1]': 0.0, '[1, 3]': 0.0, '[0, 2]': 0.0, '[2, 2]': 0.0})
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(43)update()
-> print("\n")
(Pdb) p self.value_table
defaultdict(<class 'float'>, {'[0, 0]': 0.0, '[0, 1]': 0.0, '[1, 0]': 0.0, '[1, 2]': -0.9, '[2, 1]': 0.0, '[1, 1]': 0.0, '[1, 3]': 0.0, '[0, 2]': 0.0, '[2, 2]': 0.0})
(Pdb)

self.value_table을 각 state 관리. 방문한 state를 list로 추가하고, 각 value를 update. 나중에 현재 state를 보고 action을 산출 할 때 필요.

update 하면 teminal state의 reward를 감가율로 계속 감소시켜 시작 스테이트까지 value_table[state]로 업데이트..

아래 코드에서

if state not in visit_state가 있기 때문에, 처음 방문한 state만 관심을 갖음.

 19        # 메모리에 샘플을 추가
 20         def save_sample(self, state, reward, done):
 21             self.samples.append([state, reward, done])
 22     
 23         # 모든 에피소드에서 에이전트가 방문한 상태의 큐 함수를 업데이트
 24  ->      def update(self):
 25             G_t = 0
 26             visit_state = []
 27             for reward in reversed(self.samples):
 28                 state = str(reward[0])
 29                 if state not in visit_state:
(Pdb) n
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(25)update()
-> G_t = 0
(Pdb) p self.samples
[[[1, 0], 0, False], [[1, 0], 0, False], [[2, 0], 0, False], [[3, 0], 0, False], [[3, 1], 0, False], [[3, 2], 0, False], [[2, 2], 100, True]]
(Pdb) 
...
(Pdb) l
 24         def update(self):
 25             G_t = 0
 26             visit_state = []
 27             for reward in reversed(self.samples):
 28                 state = str(reward[0])
 29  ->              if state not in visit_state:
 30                     visit_state.append(state)
 31                     G_t = self.discount_factor * (reward[1] + G_t)
 32                     value = self.value_table[state]
 33                     ##테스트..
 34                     print("Value is ",value)
(Pdb) n
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(30)update()
-> visit_state.append(state)
(Pdb) 
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(31)update()
-> G_t = self.discount_factor * (reward[1] + G_t)
(Pdb) 
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(32)update()
-> value = self.value_table[state]
(Pdb) p self.value_table
defaultdict(<class 'float'>, {'[0, 0]': 10.523899590468769, '[0, 1]': 2.3971909843905967, '[1, 0]': 45.81574921045315, '[1, 2]': -2.67309, '[2, 1]': -19.99607765407679, '[1, 1]': 6.356969207767222, '[1, 3]': 0.0, '[0, 2]': -0.41447951099999986, '[2, 2]': 89.22430756838313, '[2, 0]': 50.92319972091863, '[3, 0]': 60.0913655106793, '[3, 1]': 66.88710703917133, '[0, 3]': -0.7290000000000001, '[0, 4]': -0.6561000000000001, '[1, 4]': 0.0, '[4, 0]': 8.302503491918047, '[4, 1]': 6.159613912118276, '[4, 2]': 6.304592658442578, '[3, 2]': 80.25132103821517, '[3, 3]': 6.970546731858152, '[2, 3]': 0.0, '[3, 4]': 0.6561000000000001, '[4, 3]': 0.0, '[2, 4]': 0.0, '[4, 4]': 0.0})

500회 시행 후, 과거 이력을 보면 아래와 같다.

(Pdb) p agent.samples
[[[0, 1], 0, False], [[0, 0], 0, False], [[0, 1], 0, False], [[0, 0], 0, False], [[1, 0], 0, False], [[1, 1], 0, False], [[1, 0], 0, False], [[2, 0], 0, False], [[3, 0], 0, False], [[3, 1], 0, False], [[3, 2], 0, False], [[2, 2], 100, True]]
(Pdb) l
116                 # 다음 행동 받아옴
117                 action = agent.get_action(next_state)
118     
119                 # 에피소드가 완료됐을 때, 큐 함수 업데이트
120                 if done:
121 B->                  print("episode : ", episode)
122                     agent.update()
123                     agent.samples.clear()
124                     break
[EOF]
(Pdb) n
episode :  500
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(122)<module>()
-> agent.update()
(Pdb) l
117                 action = agent.get_action(next_state)
118     
119                 # 에피소드가 완료됐을 때, 큐 함수 업데이트
120                 if done:
121 B                   print("episode : ", episode)
122  ->                  agent.update()
123                     agent.samples.clear()
124                     break
[EOF]
(Pdb) s
--Call--
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(24)update()
-> def update(self):
(Pdb) l
 19         # 메모리에 샘플을 추가
 20         def save_sample(self, state, reward, done):
 21             self.samples.append([state, reward, done])
 22     
 23         # 모든 에피소드에서 에이전트가 방문한 상태의 큐 함수를 업데이트
 24  ->      def update(self):
 25             G_t = 0
 26             visit_state = []
 27             for reward in reversed(self.samples):
 28                 state = str(reward[0])
 29                 if state not in visit_state:
(Pdb) n
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(25)update()
-> G_t = 0
(Pdb) 
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(26)update()
-> visit_state = []
(Pdb) 
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(27)update()
-> for reward in reversed(self.samples):
(Pdb) p visit_state
[]
(Pdb) l
 22     
 23         # 모든 에피소드에서 에이전트가 방문한 상태의 큐 함수를 업데이트
 24         def update(self):
 25             G_t = 0
 26             visit_state = []
 27  ->          for reward in reversed(self.samples):
 28                 state = str(reward[0])
 29                 if state not in visit_state:
 30                     visit_state.append(state)
 31                     G_t = self.discount_factor * (reward[1] + G_t)
 32                     value = self.value_table[state]
(Pdb) p self.samples
[[[0, 1], 0, False], [[0, 0], 0, False], [[0, 1], 0, False], [[0, 0], 0, False], [[1, 0], 0, False], [[1, 1], 0, False], [[1, 0], 0, False], [[2, 0], 0, False], [[3, 0], 0, False], [[3, 1], 0, False], [[3, 2], 0, False], [[2, 2], 100, True]]
(Pdb) n
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(28)update()
-> state = str(reward[0])
(Pdb) p state
[0, 0]
(Pdb) n
> /home/now0930/tensorflow/reinforceLearing/reinforcement-learning-kr-master/1-grid-world/3-monte-carlo/mc_agentTest.py(29)update()
-> if state not in visit_state:
(Pdb) p state
'[2, 2]'
(Pdb) p self.value_table
defaultdict(<class 'float'>, {'[0, 0]': 12.843038729477103, '[0, 1]': 3.6010347623049843, '[1, 0]': 45.739579013968516, '[0, 2]': 0.38742048900000015, '[1, 1]': 4.629255057991681, '[2, 0]': 50.83890751506551, '[2, 2]': 89.2397438477723, '[3, 1]': 66.85889829029591, '[2, 1]': -19.99607765407679, '[3, 0]': 60.06357418599044, '[4, 0]': 8.024660160565901, '[3, 2]': 80.26033687696258, '[4, 1]': 5.96080478456966, '[3, 3]': 6.970546731858152, '[4, 2]': 6.029123110357315, '[3, 4]': 1.3056390000000002, '[2, 4]': 0.47829690000000014, '[4, 4]': 0.5904900000000002, '[2, 3]': 0.81, '[4, 3]': 0.5314410000000002, '[1, 3]': 0.0, '[1, 4]': 0.0, '[1, 2]': 0.0, '[0, 3]': 0.0})

2018-01-26

gtx 1060 6gb+tensorflow gpu 버전 세팅 후기
Tensorflow, CUDA toolkit, cuDNN 버전.

이것 설치한다고 이틀을 날렸다. 메뉴얼을 제대로 안 읽은 내탓도 있지만, Nvidia가 별다를 설명없이 기존 버전을 숨겨버린 탓도 있다. 멀쩡한 OS도 한번 날리고.

Tensorflow 인스톨 사이트에 아래와 같이 써있다.

NVIDIA requirements to run TensorFlow with GPU support

If you are installing TensorFlow with GPU support using one of the mechanisms described in this guide, then the following NVIDIA software must be installed on your system:
- CUDA® Toolkit 8.0. For details, see NVIDIA’s documentation. Ensure that you append the relevant Cuda pathnames to the LD_LIBRARY_PATH environment variable as described in the NVIDIA documentation.
- The NVIDIA drivers associated with CUDA Toolkit 8.0.
- cuDNN v6. For details, see NVIDIA’s documentation. Ensure that you create the CUDA_HOME environment variable as described in the NVIDIA documentation.
CUDA toolkit : 필히 8.0!! Nvidia 다운로드 사이트에 가면 9.0이 딱 있다. 8.0을 찾을수가 없다. 8.0은 여기에..

cuDNN도 CUDA toolkit 8.0에 맞는 버전을 설치한다.

나는 그래픽 드라이버를 384.81 버전을 설치했다. Nvidia 사이트에 최신 드라이버가 있는데, 그 버전 사용하려다 OS를 다시 설치했다. 저장소를 추가하고, sudo apt-get install 이렇게 쉽게 드라이버를 인스톨하면 된다. CUDA toolkit이 드라이버를 업데이트 한다.

비교!

CPU 버전으로 5,000[초/횟수]에 걸쳐하는 작업이, GPU를 사용하면 500[초/횟수]로 0이 하나 줄었다!!

GPU 선정.

싼 GTX 1060 6gb를 사기로 했다. 3gb 메모리 제품이 더 싼데, 사용하는데 문제 된다고 한다. 초심자에겐 값싼 gtx 1060이 최고다.

게다가 PC 케이스가 작아, 1070 이후 제품을 넣으려면 케이스를 뜯어내야 한다. 1060 길이가 260mm인데, 자로 한번 케이스를 재어 보니 좀 여유있게 들어 갈 수 있어 보인다.

겨우 넣었다. 간섭으로 대각선 삽입!!.

메인보드
description: Motherboard
product: GA-MA785GT-UD3H
vendor: Gigabyte Technology Co., Ltd.
pciE 2.0 * 16 지원

메인보드를 한 8년 사용하는데, pciE 2.0과 3.0 차이가 없다고 보고, 그냥 사용하기로 했다.
GTX 1060 6gb와 호환 가능

후기.

8년전 PC 살 때, 리누스가 Nvidia에 뽀큐를 날렸다는 말을 듣고, AMD 그래픽 카드를 샀는데….AMD 병신 카드였다. 제품을 만들었으면 드라이버도 좀 신경을 써야 하는데, 영 신경을 안쓴다. 윈도우에서도 그닥이고..내 인생에 다시 AMD 제품을 구매할 일이 없다. Gtx 7이나 8시리즈만 되었어도 그냥 썼을텐데..쩝..

CUDA 9.0 + tensorflow 1.5 + ubuntu 16.04 + kernel 4.13

망할..tensorflow 1.5로 업그레이드 하고, cuda 9.0을 쓰려니 망했다. cuda 9.0을 설치하니 화면이 나갔다.
- cuda 9.0은 드라이버 387부터 지원.
- 커널 4.13에 cuda 9.0을 사용하려면 드라이버 390 이상 필요.
이 두 개가 문제였다. 4시간의 삽질 끝에, cuda를 network 버전으로 설치해야 한다고 알아냈다. 업그레이드 할 때마다 난리를 쳐야되니. 역시 최신 버전만 지원하는 nvidia..9.1만 보인다고 설치하면 9.0으로 다시 설치해야 한다.
2017-09-29

텐서플로우 컴파일 설치하기

텐서플로우 GPU 버전을 설치하면 최고인데, CPU 버전만 사용해야 한다. CPU 버전을 쓰면 아래와 같이 메세지가 나온다.

(tensorflow) now0930@:cifar10$ python cifar10_testv1.py 
Using TensorFlow backend.
Couldn't import dot_parser, loading of dot files will not be possible.
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
conv2d_1 (Conv2D)            (None, 32, 32, 32)        896       
_________________________________________________________________
dropout_1 (Dropout)          (None, 32, 32, 32)        0         
_________________________________________________________________
conv2d_2 (Conv2D)            (None, 32, 32, 32)        9248      
_________________________________________________________________
max_pooling2d_1 (MaxPooling2 (None, 32, 16, 16)        0         
_________________________________________________________________
flatten_1 (Flatten)          (None, 8192)              0         
_________________________________________________________________
dense_1 (Dense)              (None, 512)               4194816   
_________________________________________________________________
dropout_2 (Dropout)          (None, 512)               0         
_________________________________________________________________
dense_2 (Dense)              (None, 10)                5130      
=================================================================
Total params: 4,210,090
Trainable params: 4,210,090
Non-trainable params: 0
_________________________________________________________________
None
Train on 50000 samples, validate on 10000 samples
Epoch 1/25
2017-06-17 08:55:41.662236: W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE4.1 instructions, but these are available on your machine and could speed up CPU computations.
2017-06-17 08:55:41.663359: W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use SSE4.2 instructions, but these are available on your machine and could speed up CPU computations.
2017-06-17 08:55:41.663384: W tensorflow/core/platform/cpu_feature_guard.cc:45] The TensorFlow library wasn't compiled to use AVX instructions, but these are available on your machine and could speed up CPU computations.
  288/50000 [..............................] - ETA: 707s - loss: 2.3271 - acc: 0.1076

연산 시간이 CPU 최신 기술로 줄어든다는데, 전에 해보렸으나 적당한 tutorial이 없어 못했다. 그러던 중, 아래 사이트를 찾았다.
“텐서플로우, 직접 소스코드 빌디하여 설치하기”

정리하면..

Git에서 clone으로 다운로드

$ git clone https://github.com/tensorflow/tensorflow
$ cd tensorflow
$ git checkout r1.2  #r은 release..적용 버전이 1.2

tensorflow을 컴파일하기 위한 Bazel 설치
세가지 방법으로 Bazel 설치 가능하다. 나는 debian을 사용하므로, compile 했다.
1. Install required Package
```
apt-get install pkg-config zip g++ zlib1g-dev unzip
```
2. Download..
3. 실행 권한을 주고 run
4. bazel 경로를 PATH 변수에 추가
```
export PATH="$PATH:$HOME/bin"
```

tensorflow 컴파일 옵션 설정..configure..

#아까 다운로드 받은 tensorflow 디렉토리에서..
./configure

Bazel로 빌드하기
```
bazel build --config=opt //tensorflow/tools/pip_package:build_pip_package
```
–config=opt 옵션이 아까 경고 부분을 해결한다.
Pip 설치용 whl 만들기
```
$./bazel-bin/tensorflow/tools/pip_package/build_pip_package /tmp/tensorflow_pkg
```
bazel-bin이 링크다. 경로를 잘 확인한다. 패키지 파일을 /tmp 디렉토리에 넣어야 되는지 모르겠다.
conda 가상 환경 활성화..
기존 tensorflow 설치버전 무시하고 설치
```
(tensorflow)$ pip install --ignore-installed --upgrade tfBinaryURL
```
tfBinaryURL이 아까 만든 /tmp/tensorflow_pkg의 whl 경로이다.

설치 후, python을 다시 실행하면 해당 메세지가 없어졌다.

(tensorflow) now0930@:cifar10$ python cifar10_testv1.py 
Using TensorFlow backend.
Couldn't import dot_parser, loading of dot files will not be possible.
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
conv2d_1 (Conv2D)            (None, 32, 32, 32)        896       
_________________________________________________________________
dropout_1 (Dropout)          (None, 32, 32, 32)        0         
_________________________________________________________________
conv2d_2 (Conv2D)            (None, 32, 32, 32)        9248      
_________________________________________________________________
max_pooling2d_1 (MaxPooling2 (None, 32, 16, 16)        0         
_________________________________________________________________
flatten_1 (Flatten)          (None, 8192)              0         
_________________________________________________________________
dense_1 (Dense)              (None, 512)               4194816   
_________________________________________________________________
dropout_2 (Dropout)          (None, 512)               0         
_________________________________________________________________
dense_2 (Dense)              (None, 10)                5130      
=================================================================
Total params: 4,210,090
Trainable params: 4,210,090
Non-trainable params: 0
_________________________________________________________________
None
Train on 50000 samples, validate on 10000 samples
Epoch 1/25

설치하기 전에는 속도가 많이 빨라질 것이라 기대 했으나..별 차이 없어보인다.

2017-06-17

sparse_tensor_to_dense

전에 이어서…
각 행의 feature를 sparse tensor로 받아 들인다. tutorial에는 값을 확인하는 부분이 없다. 내가 입력한 값이 정확한지 이를 어떻게 확인해야 하는지? print로 확인을 하면 좋은데, sparse tensor를 print 하면 대략 형식에 대한 값들만 출력이 된다.

SparseTensor(indices=Tensor("SparseTensor_1/indices:0", shape=(32561, 2), dtype=int64), values=Tensor("SparseTensor_1/values:0", shape=(32561,), dtype=string), dense_shape=Tensor("SparseTensor_1/dense_shape:0", shape=(2,), dtype=int64))

크게 3개로 구성된다. 각 항목의 type은 tensor이다.
1. indeces에 대한 정의
2. values에 대한 정의
3. dense_shape에 대한 정의

sparse_tensor_to_dense 함수가 sparse tensor를 어떻게 되어있는지 출력한다. sparse_tensor_to_dense의 입력 파라미터로 1. sparse tensor 이름, 2.default_value를 받는다. feature column으로 만든 sparse tensor는 values에 대한 data type이 string, int64 등 여러 종류가 있다. 정의된 values가 int64인데 default_value를 string을 쓰면 에러가 난다. 그래서 각 sparse tensor의 values에 대한 항목을 뽑고, 다시 dtype을 뽑아내어 각 항목에 맞는 default_value를 넣어버렸다.
아래와 같이 구현했다.

with tf.Session() as sess:

    for i in feature:
        print i
        print feature[i]
        print feature[i].values.dtype
        if(tf.string == feature[i].values.dtype):
            print "type string"
            y_tensor = tf.sparse_tensor_to_dense(sp_input = feature[i], default_value='x')
        if(tf.int64 == feature[i].values.dtype):
            print "type int64"
            y_tensor = tf.sparse_tensor_to_dense(sp_input = feature[i], default_value=0)
        else :
            print "different"
        print y_tensor
        print y_tensor.eval()

이렇게 실행하면 아래의 결과를 얻는다.

gender
SparseTensor(indices=Tensor("SparseTensor/indices:0", shape=(32561, 2), dtype=int64), values=Tensor("SparseTensor/values:0", shape=(32561,), dtype=string), dense_shape=Tensor("SparseTensor/dense_shape:0", shape=(2,), dtype=int64))
<dtype: 'string'>
type string
different
Tensor("SparseToDense:0", shape=(32561, 1), dtype=string)
[['Male']
 ['Male']
 ['Male']
 ..., 
 ['Female']
 ['Male']
 ['Female']]
age
SparseTensor(indices=Tensor("SparseTensor_3/indices:0", shape=(32561, 2), dtype=int64), values=Tensor("SparseTensor_3/values:0", shape=(32561,), dtype=int64), dense_shape=Tensor("SparseTensor_3/dense_shape:0", shape=(2,), dtype=int64))
<dtype: 'int64'>
type int64
Tensor("SparseToDense_1:0", shape=(32561, 1), dtype=int64)
[[39]
 [50]
 [38]
 ..., 
 [58]
 [22]
 [52]]
education
SparseTensor(indices=Tensor("SparseTensor_1/indices:0", shape=(32561, 2), dtype=int64), values=Tensor("SparseTensor_1/values:0", shape=(32561,), dtype=string), dense_shape=Tensor("SparseTensor_1/dense_shape:0", shape=(2,), dtype=int64))
<dtype: 'string'>
type string
different
Tensor("SparseToDense_2:0", shape=(32561, 1), dtype=string)
[['Bachelors']
 ['Bachelors']
 ['HS-grad']
 ..., 
 ['HS-grad']
 ['HS-grad']
 ['HS-grad']]
relationship
SparseTensor(indices=Tensor("SparseTensor_2/indices:0", shape=(32561, 2), dtype=int64), values=Tensor("SparseTensor_2/values:0", shape=(32561,), dtype=string), dense_shape=Tensor("SparseTensor_2/dense_shape:0", shape=(2,), dtype=int64))
<dtype: 'string'>
type string
different
Tensor("SparseToDense_3:0", shape=(32561, 1), dtype=string)
[['Not-in-family']
 ['Husband']
 ['Not-in-family']
 ..., 
 ['Unmarried']
 ['Own-child']
 ['Wife']]

2017-04-17

[카테고리:] tensorflow

tensorflow 1.10 설치기

Monte Carlo Method 코드 분석

gtx 1060 6gb+tensorflow gpu 버전 세팅 후기

Tensorflow, CUDA toolkit, cuDNN 버전.

비교!

GPU 선정.

후기.

CUDA 9.0 + tensorflow 1.5 + ubuntu 16.04 + kernel 4.13

텐서플로우 컴파일 설치하기

인구 데이터로 년 수입 예측, 2차

sparse_tensor_to_dense