IT 이야기 77

Apache Spark

Spark의 중심에는 RDD(Resilient Distributed Dataset, 회복성 있는 분산 데이터 세트) 개념이 있다. 이는 YARN 클러스터의 여러 물리적 노드에서 나뉘고 분산되었으며, 병렬적으로 작동될 수 있는 객체들의 변경 불가능한 집합을 뜻한다.주로 RDD은 공유된 파일 시스템, HDFS, HBase 혹은 YARN 클러스터에 하둡 InputFormat을 제공하는 데이터 소스에서 데이터를 로드할 때 인스턴스화된다.RDD가 실체화 되면, 사용자는 일련의 연산을 적용할 수 있다. 모든 연산은 변형이나 동작 중 하나의 유형으로 나뉜다. 이름이 뜻하듯이 변형 (Transformation) 연산은 기존의RDD에서 새로운 데이터 세트를 생성하고 YARN 클러스터의 분할된 데이터 세트에 적용될 수 있..

Varnish cache

Varnish 소개Varnish는 BSD 라이선스를 따르는 오픈 소스 웹 캐시 소프트웨어이다. Varnish는 2006년 노르웨이의 최대 신문사인 Verdens Gang(VG)에서 사용하기 위해 개발되기 시작했으며, 유명한 FreeBSD의 커널 개발자인 Poul-Henning Kamp(PHK)가 개발을 주도했다. PHK는 OS 커널에 대한 해박한 지식을 바탕으로, Varnish가 OS 커널과 조화롭게 동작하여 최적의 성능을 발휘할 수 있도록 설계했다. Varnish가 개발된 후, VG는 기존에 사용하던 12대의 Squid 서버를 3대의 Varnish 서버로 교체했다. 현재는 Varnish Software(www.varnish-software.com)가 Varnish를 개발하고 있으며, Varnish에 대..

한국오라클, BI 클라우드 서비스 출시

한국오라클, BI 클라우드 서비스 출시편집부 | CIO KR한국오라클이 ‘BI 클라우드 서비스 출시 미디어 교육’을 개최하고 비즈니스 인텔리전스(BI) 및 빅데이터애널리틱스(Big Data Analytics) 사업을 전격 강화한다고 밝혔다. 새롭게 출시된 오라클 BI 클라우드 서비스는 기업들이 언제 어디서든 가장 적절한 데이터만을 선별적으로 수집해 쉽고 빠르게 분석할 수 있도록 한다. 또한 직원 개인부터 팀, 나아가 기업 전체에 이르기까지 모든 규모의 조직에서 즉시 사용할 수 있는 풍부한 분석 역량을 제공한다. 이를 통해 사용자들은 언제 어디서든 파일을 빠르고 간편하게 송부하고, 원하는 때에 즉시 분석을 시작할 수 있다. 오라클 BI클라우드 서비스는 오라클 데이터베이스 클라우드와 통합되어 있으며, 진보한..

MYSQL replication & mysql 이중화 (master,slave)

MYSQL replication & mysql 이중화 (master,slave) Master 작업 1-1. Slave 계정 생성Grant replication slave on *.* to slave@'192.168.0.*' identified by ' passwd';1-2. master(DB) 백업Mysqldump -u root -p dbname > dump.sql1-3. dump 파일 slave 서버로 전송FTP 이용 및 SCP scp dump.sql user(계정)@IP:.1-4. /etc/my.cnf 내용추가log-bin=mysql-binserver-id = 11-5. mysql restart1-6 show master status;(File 번호 ,Position 번호 메모) Slave 작업 (S..

IT 이야기/DB 2015.10.17

domain status & 도메인 확인

domain status & 도메인 확인 Status: OK=> 모든 게 정상적으로 사용 가능한 상태 Status:INACTIVE=> 네임서버가 1개만 적용되어 있는 경우 org, info, biz, cn, us의 경우 2개 이상의 네임서버가 적용되어 있어야 함. Status:TRANSFER PROHIBITED Status:ACTIVE=> 정상적으로 사용가능하며, 신규 등록 후 60일까지 이전 금지된 상태로 되어 있음. Status:CLIENT RENEW PROHIBITED Status:ACTIVE=> 정상적으로 사용가능하며, 연장할 수 없는 상태 Status:PENDING TRANSFER Status:ACTIVE=> 정상적으로 사용가능하며, 타 기관으로부터 이전요청 들어온 상태 이때에는 정보변경을 할 ..

IT 이야기/Domain 2015.10.17

아파치 에러 코드 & apache error code

아파치 에러 코드 & apache error code 100 : Continue101 : Switching protocols200 : OK, 에러없이 전송 성공201 : Created, POST 명령 실행 및 성공202 : Accepted, 서버가 클라이언트 명령을 받음203 : Non-authoritative information, 서버가 클라이언트 요구 중 일부만 전송204 : No content, 클라언트 요구을 처리했으나 전송할 데이터가 없음205 : Reset content206 : Partial content300 : Multiple choices, 최근에 옮겨진 데이터를 요청301 : Moved permanently, 요구한 데이터를 변경된 임시 URL에서 찾았음302 : Moved temp..

IT 이야기/Linux 2015.10.17

FTP 서버는 GMT 시간을 기준으로 진행될 경우 조치사항

FTP 서버는 GMT 시간을 기준으로 진행될 경우 조치사항 FTP로 파일을 올릴경우 시간이 맞지않을때, GMT는 우리나라 표준시와 약 9시간의 시간 차이가 있습니다,FTP client로 파일을 전송하고 나면 파일 생성 시간이 9시간 전으로 표시되는 문제가 간혹 발생하게 된다. 이럴 때는 FTP 서버의 로컬 시간을 표시하도록 해주면 된다. vsftpd.confuse_localtime=YES

IT 이야기/Linux 2015.10.17

2015 BOSSIE 어워드로 보는 오픈소스 주요 트렌드 5가지

2015 BOSSIE 어워드로 보는 오픈소스 주요 트렌드 5가지 인포월드의 연례 베스트 오픈소스 대상은 오픈소스에 대해 한 걸음 물러서 좀 더 큰 그림을 볼 수 있는 기획을 제공한다. 올해도 6개 카테고리에서 90여 소프트웨어가 수상의 영예를 안았다. 이들 소프트웨어는 모두 인프월드 편집부와 기고자들이 실제 IT 운영 및 개발 경험을 기반으로 선정했다. 최고의 오픈소스 소프트웨어로 선정된 소프트웨어는 다음과 같다. 오픈소스 애플리케이션 : xTuple, Odoo, iDempiere, SuiteCRM, CiviCRM, Mautic, OrangeHRM, LibreOffice, Bonita BPM,Camunda BPM, Talend Open Studio, Warewolf ESB, KNIME, Teiid 오픈소..

FTP error code & FTP 오류 코드

FTP error code & FTP 오류 코드 1yz 능동적인 예비 응답. 요청된 행위를 초기화한다. 새로운 명령어를 처리하기 전에 다른 응답을 기다린다. 2yz 능동적인 완결 응답. 서버는 요청된 행위를 성공적으로 완수하였다. 클라이언트는 새로운 요청을 초기화할 수있다. 3yz 능동적인 중개자 응답. 이 명령어를 받아들이지 않는다. 또한 요청된 행위도 일어나지 않는다. 4yz 단기적인 수동 완결 응답. 서버는 이 명령어를 받아들이지 않는다. 또한 요청된 행위도 일어나지 않는다. 5yz 영구적인 수동 완결 응답. 서버는 이 명령어를 받아들이지 않는다. 또한 요청된 행위도 일어나지 않는다. 코드 요 약 x0z 문법 : 이 응답은 문법 에러를 나타내며, 문법적으로 올바른 명령어들은 어떤 기능적인 범주에도 ..

IT 이야기/Linux 2015.10.15

Linux Demon List & 리눅스 데몬 종류

Linux Demon List & 리눅스 데몬 종류 1. NetworkManager : 자동으로 최대 사용가능한 연결에 네트워크 연결을 스위칭한다.2. acpi : 커널로부터 ACPI 이벤트들을 받아서 처리한다.3. anacron : downtime까지 남겨진 cron 작업들을 실행한다.4. apmd : 베터리 상태를 모니터링하고 기록(syslog(8))한다. 고급 전원 관리기능을 하는 데몬5. arptables_jf : 자동으로 arptables로 패킷 필터링을 하는 방화벽 데몬6. atd : 백그라운드 작업을 수행하거나 예약 명령을 처리한다. 7. autofs : 서버의 파일을 읽을 때 자동으로 마운트하도록 해주는 데몬8. bluetooth : 서비스 검색과 인증 서비스를 위한 데몬9. chargen..

IT 이야기/Linux 2015.10.15