꿀팁 분석 환경 설정(121)
-
[TIP] Jupyer notebook에서 argparse 꺼내 쓰기
github에서 보통 코드를 복사해서, 나 같은 경우에는 주피터 노트북으로 가져와서 한번 돌려본다. 그때 가장 귀찮은 것은 argparse를 다 꺼내 줘야 한다는 것이다. 그런데 오늘 꺼내도 않아도 기본값을 쓸 수 있는 것을 알게 되어서 공유한다 import argparse parser = argparse.ArgumentParser() parser.add_argument( "--smoke-test", action="store_true", help="Finish quickly for testing") args, _ = parser.parse_known_args() 간단 TIP 끝
2020.11.07 -
[TIP / Installation] 사용하는 Jupyter Kernel에서 패키지 설치하는 방법
실제라 아나콘다를 사용할 때 터미널에서 파이썬 환경을 바꾸고 설치해야 하는데, 이 작업이 귀찮을 수도 있고, 실제로 할 때 잘 안되는 경우가 있었다. 아래 코드를 사용하니, 잘되는 것을 확인했고, 공유함. import sys !{sys.executable} -m pip install xlsxwriter
2020.10.23 -
ML 프로젝트시 폴더 구조화 하는 방법 관련 글
실제로 프로젝트를 하다보면, 급하게 하다 보니 폴더간에 구조화가 되지 않아서 항상 찾으려면 고생을 한 기억이 있습니다. 이러한 것에 문제를 느껴서 구조화 하는 것에 대해 알아보다 좋은 글이 있어서 공유합니다 본 글에서는 좋은 구조적 레이아웃의 이점에 대해 자세히 설명하고 각 디렉터리를 채울 수 있는 항목에 대한 자세한 설명이 포함된 템플릿 구조 레이아웃을 제공합니다. 하지만 이것도 그냥 하나의 예시일 뿐이니, 장 좋은 조치는 선호도 및 프로젝트 요구 사항을 충족하는 관행을 선택하고 채택하는 것입니다. 왜 구조에 대해서 신경을 써야할까요? 어떤 시점에서 우리의 작업을 재생산을 하고 싶을 때가 있습니다. 예측 모델을 만든다고 했을 때, 강력한 예측 모델을 구축할 수 있는 통찰력을 얻는데 훨씬 더 관심이 있습..
2020.10.08 -
command로 Ipython noteobk Clear Output 하기
jupyter notebook에 너무 뭔가를 많이 프린트 해놓으면, html에서 다 읽느라고 너무 느려진다. 이런 경우에 노트북 clear output 하는 방법을 공유한다. # 새로 만들기 jupyter nbconvert --ClearOutputPreprocessor.enabled=True \ --to notebook --output=Clean_jupyter Dirty_jupyter.ipynb # 덮어쓰기 jupyter nbconvert --ClearOutputPreprocessor.enabled=True --inplace Dirty_Jupyter.ipynb https://stackoverflow.com/questions/28908319/how-to-clear-an-ipython-notebooks-ou..
2020.07.15 -
Pycharm remote SFTP file transfer fails: Permission Denied 및 Failed to change timestamp 해결하기
갑자기 로컬에서 작업한 것이 원격서버에 저장이 안되는 현상이 발생했다. 원격에서 가져오는 것은 가능했는데, 로컬에서 수정한 것을 보낼 때 Failed to transfer file '/Users/.../PyCharm/server/server_plug/server_plug.py': could not create folder "sftp://192.168.0.64/home/.../Project/PyCharm/server_plug". (Permission denied) 위와 같은 에러가 발생했다. 그래서 확인해보니 폴더 읽고 쓰기 권한이 없는 것이였다. 그래서 권한을 주니 해결 완료 chmod -R 777 ./folder 그 다음에 새로운 문제가 발생 원격지 서버의 timestamp 설정 문제로 에러가 발생하는..
2020.04.30 -
ubuntu18.04 에 R 4.0 설치 및 Rstudio Server 설치하기
광고 한 번씩 눌러주세요! 블로그 운영에 큰 힘이 됩니다 :) 도커를 이용해서 ubuntu 18.04 컨테이너 만들기 docker run --ip ##### --rm -p 8886:8886 -it ubuntu /bin/bash apt-get update apt-get install sudo wget vim net-tools sudo apt-get install gnupg gnupg2 gnupg1 18.04 이므로 bionic-40을 해야 한다. R 4.0 설치하기 vi /etc/apt/sources.list ## 추가하기 deb https://cloud.r-project.org/bin/linux/ubuntu bionic-cran40/ ## 저장후 vi 닫기 ## update 해서 sources.list ..
2020.04.29 -
jupyter notebook 개별 메모리 사용량 확인하는 방법
광고 한 번씩 눌러주세요! 블로그 운영에 큰 힘이 됩니다 :) memory_profiler를 설치하면 됨. !pip install memory_profiler magic 함수로 확인하는 방법 %load_ext memory_profiler %memit 패키지로 확인하는 방법 from memory_profiler import memory_usage mem_usage = memory_usage(-1, interval=1, timeout=1) print(mem_usage) https://data-newbie.tistory.com/312?category=772752 Jupyter Notebook에서 Notebook 이름 가져오기 가끔 주피터 노트북 이름을 가져와서 먼가 활용하고 싶을 때가 있다. 그래서 찾아보니 ..
2020.04.28 -
cuda, cudnn 확인 및 맞는 tensorflow_gpu 버전 설치하기
광고 한 번씩 눌러주세요! 블로그 운영에 큰 힘이 됩니다 :) cuda 버전 확인하기 nvcc --version cudnn version 확인하기 cat /usr/include/x86_64-linux-gnu/cudnn_v*.h | grep CUDNN_MAJOR -A 2 그래픽 카드 이름 확인하기 nvidia-smi --query | fgrep 'Product Name' 그래픽 카드별 계산 능력 확인 현재 Titan Xp를 사용하려고 하고 Compute Capability는 6.1 내가 이번에 설치하고 싶은 Cuda Version은 10.0 cuda 10.0는 3.0~7.5까지 호환된다고 하니 가능하다는 것 확인 텐서플로우 유저이기 때문에 각 텐서플로우 버전마다 호환되는 버전 확인 그중에서도 GPU버전을 ..
2020.04.22 -
Kubernetes 설치 튜토리얼 주소
https://matthewpalmer.net/kubernetes-app-developer/articles/install-kubernetes-ubuntu-tutorial.html 4 Steps to Install Kubernetes on Ubuntu 16.04 and 18.04 - Kubernetes Book 4 Steps to Install Kubernetes on Ubuntu 16.04 and 18.04 This is the fastest tutorial to install and run Kubernetes on Ubuntu. With this guide you’ll be running Kubernetes on your Ubuntu machine. It’s the fastest set up for l..
2020.04.17 -
ubuntu 16.04에서 Minikube 및 Kubeflow 설치
광고 한 번씩 눌러주세요! 블로그 운영에 큰 힘이 됩니다 :) ## ubuntu minikube 설치하기 sudo apt-get update && sudo apt-get dist-upgrade && sudo apt-get autoremove sudo apt-get -y install gcc make linux-headers-$(uname -r) dkms wget -q https://www.virtualbox.org/download/oracle_vbox_2016.asc -O- | sudo apt-key add - wget -q https://www.virtualbox.org/download/oracle_vbox.asc -O- | sudo apt-key add - sudo sh -c 'echo "deb ht..
2020.04.17 -
ubuntu16.04에 dsl-compile 설치하기
kubectl에서 dsl-compile 설치하기 apt-get update; apt-get install -y wget bzip2 wget https://repo.continuum.io/miniconda/Miniconda3-latest-Linux-x86_64.sh bash Miniconda3-latest-Linux-x86_64.sh which conda (못찾을 경우 아래처럼 환경 잡아주기) export PATH=/home/lsr/miniconda3/bin/:$PATH (위의 주소(/home/lsr/miniconda3/)은 bash Miniconda3-latest-Linux-x86_64.sh 에서 설정한 것을 가져오면 됨) conda create --name mlpipeline python=3.6 ## ..
2020.04.17 -
ubuntu 16.04 GPG error 해결 방법 공유
에러 W: An error occurred during the signature verification. The repository is not updated and the previous index files will be used. GPG error: https://nvidia.github.io/libnvidia-container/ubuntu16.04/amd64 InRelease: 다음 서명들은 공개키가 없기 때문에 인증할 수 없습니다: NO_PUBKEY 6ED91CA3AC1160CD W: An error occurred during the signature verification. The repository is not updated and the previous index files will be..
2020.04.17