분류 전체보기
-
Compression Comparison of gzip and 7z on CentOS 7. (CentOS 7에서 gzip과 7z 압축 비교)Linux/RedHat, CentOS, ubuntu 2019. 10. 25. 18:54
윈도우 플랫폼에서만 7z을 써봤지만 리눅스에서도 설치가 가능하여 설치하고, 몇 개 로그성 파일을 압축해 보고 gzip과 비교하여 압축율을 보았다. p7z 설치 # yum install epel-release # Extra Packages for Enterprise Linux 저장소 설치 # yum install p7zip p7zip-plugins # 7z | grep Version p7zip Version 16.02 Sample Log 324448621 Sep 11 02:03 2019-09-10.log 285908878 Sep 16 16:53 2019-09-16.log 381334202 Sep 26 16:20 2019-09-26.log 376169644 Sep 28 14:13 2019-09-28.log ..
-
[Python] reduce 함수Python/Python Programming 2019. 10. 24. 22:42
functools.reduce(function, iterable, initializer) : 왼쪽에서 오른쪽으로 반복을 감소시키면서 함수 연산 왼쪽에서 오른쪽으로 순회를 하게 되고, x는 왼쪽, y는 오른쪽에 할당이 된다. * python3에서는 functools 모듈을 사용해야 한다. reduce를 이용한 모슨 숫자 요소들 더하기 from functools import reduce reduce(lambda x, y: x + y, [2, 4, 6, 8, 10, 12, 14]) ------------------------------------------------------ 56 reduce를 이용한 모슨 숫자 요소들 더하기. (initializer - 초기값 100 고정) from functools im..
-
[Python] subprocess모듈과 7z을 이용한 전일 로그 자동 압축 보관Python/Python for Windows 2019. 10. 24. 16:31
7z은 커맨드 명령어를 제공하며, 오픈소스이다. 다운로드 페이지 : https://www.7-zip.org/download.html Download Download .7z Any / x86 / x64 LZMA SDK: (C, C++, C#, Java) www.7-zip.org 이번 포스팅에서 쓰는 옵션은 압축(a) 옵션을 사용하여 전일 로그를 압축해보려 한다. 다양한 옵션을 이용하려면 포스팅 하단의 URL 경로나 7z.exe 명령어를 실행하면 알 수 있다. 대상 로그는 IIS로그로 포맷은 ex_yyyymmdd.log 형식이며, 현재 2019-10-24일 기준으로 전일 기준인 ex_20191023.log 파일이다. import subprocess from datetime import timedelta fr..
-
[Python] pandas의 sort_values를 이용한 dataframe 정렬Python/Python For Analytics 2019. 10. 24. 12:30
sort_values : 값을 기준으로 정렬하는 메소드 학생의 영어점수와 수학점수 dataframe 샘플 만들기 import pandas as pd names = ['철수','영희','민수','영자'] eng_point = [90,85,70,75] math_point = [100,90,90,85] df = pd.DataFrame([ x for x in zip(names,eng_point,math_point)], columns = ['학생', '영어', '수학']) print(df) ----------------------------------------------------------------------------- 학생 영어 수학 0 철수 90 100 1 영희 85 90 2 민수 70 90 3 영자 ..
-
[Python] Pandas를 이용한 IIS 웹 로그 분석 (sc-bytes, cs-bytes)Python/Python For Analytics 2019. 10. 23. 13:20
sc-bytes : 어플리케이션(웹 사이트)에서 클라이언트로 보낸 bytes. cs-bytes : 클라이언트에서 어플리케이션(웹 사이트)로 보낸 bytes. IIS로그 필드 중 sc-bytes와 sc-bytes는 웹 사이트와 클라이언트간 통신양(bytes)를 숫자로 표기한 것으로 웹 사이트의 성능을 분석하는 데 있어 중요한 데이터이다. 특히, On-premise가 아닌 클라우드 환경에서 웹 사이트를 서비스할 경우 sc-bytes는 아웃바운드 트래픽을 가늠하기에 좋은 지표이기 때문에(아웃바운드 트래픽 = 요금) 유심깊게 점검하는 편이 좋다. IIS 웹 로그를 pandas dataframe 만들기 import pandas as pd log_field = ['date', 'time', 's-sitename',..
-
[Python] dateutil 모듈을 이용한 전년,전월,전일,D-day 날짜 구하기Python/Python Programming 2019. 10. 21. 18:50
파이썬 dateutil 모듈을 활용한 전년,전월,전일, D-day 구하기 2019-10-21 기준 전년:동월:동일 from datetime import datetime from dateutil.relativedelta import * now = datetime.now().date() print(now+relativedelta(years=-1)) ------------------------------------- 2018-10-21 동년:전월:동일 from datetime import datetime from dateutil.relativedelta import * now = datetime.now().date() print(now+relativedelta(months=-1)) ---------------..
-
[Python] subprocess모듈과 Bandizip을 이용한 전일 로그 자동 압축 보관Python/Python for Windows 2019. 10. 20. 15:50
Bandizip은 커맨드 명령어를 제공하며, 자세한 옵션은 아래 URL을 참고 URL https://www.bandisoft.com/bandizip/help/parameter/ 이번 포스팅에서 쓰는 옵션은 압축(c)과 자동 창 닫힘(-y)을 사용하여 전일 로그를 압축해보려 한다. 대상 로그는 IIS로그로 포맷은 ex_yyyymmdd.log 형식이며, 현재 2019-10-20일 기준으로 전일 기준인 ex_20191019.log 파일이다. import subprocess from datetime import timedelta from datetime import datetime from os import chdir yesterdaylog = 'ex_'+str(datetime.today().date() - t..
-
[Python] Find all index values of a specific element using enumerate. (enumerate를 활용한 특정요소의 리스트 index 값 모두 찾기)Python/Python Programming 2019. 10. 20. 02:19
lst라는 리스트에서 'b' 요소의 모든 index 찾기 lst = [ 'a', 'b', 'c', 'b', 'c', 'd', 'e', 'b' ] res = [ x for x, y in enumerate(lst) if y == 'b' ] print(res) --------------------------------------------------- [1, 3, 7]