대학원생 신짜오는 공부중

[database] simpleDB로 buffermanager에서 LRU 알고리즘 구현하기

이번 수업 과제로DB의 buffer cache에서hit ratio를 높이기 위한 대표적인 알고리즘인LRU를 구현하는 과제를 받았다simpleDB란?simpleDB란 작은 규모의 database를 빌드해볼 수 있는간단한 database 구현 프로젝트이다 java와 c++ 버전이 있다고 하는데본 과제에서는 c++ 버전을 사용하였다 https://github.com/rotaki/simpledb GitHub - rotaki/simpledb: A C++ version of SimpleDB originally written in Java by Edward Sciore. The structure of SimpleDB is exA C++ version of SimpleDB originally written in Jav..

[database] Physical Query Algorithm & Query Optimization

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식관리시스템 수업을학습을 목적으로 재구성하였습니다이번 시간에 배울 내용이다 우리는 이 수업 아주 초반에모든 쿼리는 사실 관계대수라고 하는 연산자로부터 나왔다는 것을 배웠는데사실 관계대수는 같아도실제로 어떻게 구현되는지인 physical algorithm은 달라질 수 있다 따라서 현재 어떤 상황인지에 따라 best algorithm을 구현해야하는데오늘 배울 내용은 이것에 관한 내용이다 수업의 초반부에 배웠던 내용이다이런 논리적 연산자들을물리적으로 어떻게 구현할 것인가에 대한 내용이다 이러한 내용을 쿼리를 어떻게 처리할 것인가를 다루는 내용이라query processing 혹은 query evaluation이..

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식관리시스템 수업을학습을 목적으로 재구성하였습니다이번 시간에 배울 내용은external sorting에 대한 내용이다 external sort는 정확하게 어떤 것이고그냥 sort랑은 뭐가 다른걸까?뒤로가면서 궁금증을 풀어보자 이번 챕터를 공부하면서 이해해야 하는 내용은 위와 같다sorting은 DBMS에서 왜 중요하며in memory sorting과 external sorting은 어떤 것일까? 그리고 external sorting의 대표 알고리즘인external merge sort에 대해 살펴보고B+Tree와 다른 sorting들도 살펴보자 그렇다면 우선 우리가 sorting을 왜 배워야하는지 간단하게 ..

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식관리시스템 수업을학습을 목적으로 재구성하였습니다이전 시간에 배운 tree based index structure에서B+Tree에 대해서 좀 더 자세히 살펴보자우선은 inserting과 deletion이다 저번 시간에 DB index가 어떻게 값을 찾는지 배웠다각 data는 search key인 50000과뒤에 몇 번째 block의 몇 번째 slot에해당 record가 존재하는지를 의미한다 따라서 tree에서 검색해야할 key를 찾고해당 record를 찾아가는 구조를 갖고있다 따라서 data가 새로 insertion되너가 deletion될 때B+Tree의 경우 tree의 구조가 변경되게된다 B+Tree에 ..

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식관리시스템 수업을학습을 목적으로 재구성하였습니다중간에 학회준비 때문에 급하게 올인한다고수업 내용 정리를 못했다..그래서 학회가 끝난 뒤에 몰아서 하려했는데양도 너무 많고 기억도 잘 안나서 쉽지 않은 것 같다 ㅎㅎ..그래도 어떧ㅎ게든 차근차근 해보려한다 이번 내용은 Database에서 index를 처리하는 법이고가장 대표적인 tree-structured indexes구조이다 RDBMS의 전체 시스템에서Files and Access Methods 부분에 해당한다 access method에는전체를 scanning하는full scanning과 index기반 method가 있다 본 내용을 통해 우리가 알아야하는..

본 게시글은서울대학교 데이터사이언스대학원 성효진 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다이번 시간에 정리할 내용은프로그램 최적화에 관련된 내용이다 컴파일 언어에서는 컴파일러가 우리가 작성한 코드를자체적으로 최적화를 해주는 역할을 한다그렇다면 컴파일러는 어떤 방법으로 최적화를 진행할까?또한 컴파일러 이외에우리가 코드 레벨에서 코드를 작성할 때어떻게하면 최적화된 코드를 작성할 수 있을까?이 프로그램 최적화는 이와 관련된 내용이다 이런 컴파일러의 최적화 과정을 이해해야우리가 어떻게 프로그램을 짜야하는지 알 수 있다고 한다 이번 시간에 배울 목차이다 우리가 보통 알고리즘을 공부할 때는asymptotic complexity라고 해서흔히 빅오 표기법으로 시간 복잡도를 ..

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식관리시스템 수업을학습을 목적으로 재구성하였습니다이번 시간은 DBMS와 관련되어있는전반적인 디스크 메모리에 관한 내용들그리고 DBMS의 DRAM 역할을 하는 buffer cache의management에 대해서 배운다 우선 RAID라는 개념에 대해 알아보자Redundant Arrays of Independent Disk의 약자인데싸고 작은 독립적인 디스크들을 여러개 모아서하나의 큰 space disk처럼 사용하는 개념이다 예전에는 디스크를 1개만 사용했고이를 Single Large Expensive Disk라고 해서SLED라고 불렀다 하지만 80년대 중반에작고 싼 디크스들을 모아서 마치 하나의 큰 디스크처럼보..

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식관리시스템 수업을학습을 목적으로 재구성하였습니다이번 수업 내용은제목을 뭐라고 붙일지 약간 고민했다뭔가 마땅한 내용이 없는 느낌 아무튼 전반적인 내용은DBMS와 disk IO에 관한 내용이며메모리 계층구조를 살펴보고이게 DBMS에 어떤 영향을 미치는지를 살펴본다 저번 시간에 DBMS에서 데이터를 가져올 때DRAM의 buffer cache를 사용한다고 했다 실제로 DBMS가 SQL을 처리하기 위해서는디스크에 있는 데이터를 DRAM으로 가져와야하는데이때 IO가 발생하고 이 단위는 page(=block)이고일반적인 DBMS의 page는 8KB라고 설명했다 DBMS에서는 system catalogs를 이용해서ta..

본 게시글은서울대학교 데이터사이언스대학원 정형수 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다 지난 시간에 이은 가상메모리 2편이다교수님께서 컴퓨터 공학에 있어서굉장히 중요한 부분이라고 강조 또 강조하신 부분이다 우선 지난 시간에 배운 내용을간단하게 복습하고 본격적으로이번 수업시간에 배울 내용으로 넘어가보자 1950-60년대에는 os를 Physical memory 상단부에고정 시키고 나머지 부분을 활용하는 방식을 사용했다 따라서 예전에는 physical memory가위 ppt slide처럼 구성되어있었다 가장 위에 os를 위한 부분이 있고그 아래에 여러 프로세스에 대해서저장하는 공간이 각각 할당됐었다 총 512KB정도가 있지만예전에는 이 정도 메모리도 크다고 ..

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식관리시스템 수업을학습을 목적으로 재구성하였습니다저번 시간까지가 중간고사 범위였다저번 시간까지는 사실 단순(?) SQL과여러 가지 종류의 SQL representation에 대해 배웠다면중간고사 이후부터는 DB internal에 대해 배운다 지금부터 배우는 것들이정말 중요한 내용이라고 한다 DBMS의 internal 부분을 살펴보자오늘 배울 내용은 file and access method이다 실제로 우리가 만드는 테이블 데이터들이디스크 storage에 어떻게 저장되는지에 대한 내용이다실제로 디스크에 datafile이라는 형태로 테이블은 저장되고테이블에 대한 정보들은 디스크에 system catalog나dic..