대학원생 신짜오는 공부중

[nl2query] BirdSQL dataset으로 nl2query 실습하기

이번에 수강하고있는 데이터베이스 수업에서nl2query 실습과제가 주어졌다 nl2query계에서 가장 유명한 벤치마크 중 하나인BirdSQL을 이용한 nl2query 실습과제였고전반적인 nl2query 과정이나수정 및 추가가 필요한 점들을 논리적으로 적어가는 과제였다그래서 과제를 수행하는 과정들을티스토리에 간단하게 기록해보려한다BirdSQL https://bird-bench.github.io/ BIRD-benchBIRD Mini-Dev A Lite version of developtment dataset, which is designed to facilitate efficient and cost-effective development cycles, especially for testing and refi..

[database] Analytic Functions(partitioning, ordering, windowing)

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식기반시스템 강의를학습을 목적으로 재구성하였습니다이번 시간 강의는 DBMS에서Analytic Function과Oracle에서의 Tree Traversal 내용에 대해 다뤘다 하지만 갑자기 교수님이 진도를 폭주하셔서ppt slide가 굉장히 많기 때문에Tree Traversal 내용은 다음 게시글로 옮기고이번 게시글에는 Analytic Function만 정리해보려고한다 한 개 한 개가 그냥 function에 대한 예시가 많아서최대한 핵심만 담아보려고한다  Analytic Function이란요즘 대부분의 DBMS에서 제공하는 기능이다SQL이 개발된 이후에가장 좋은 기능이라는 말도 있다,,고한다  Analytic ..

본 게시글은서울대학교 데이터사이언스대학원 성효진 교수님의데이터사이언스 응용을 위한 시스템 컴퓨팅 강의를학습을 목적으로 재구성하였습니다지난 시간에는 CPU 아키텍처를 배우면서각 step별 pipelining을 배웠고이런 pipelining 과정에서 각 단계마다 이쁘게 딱딱 맞아떨어지면 좋지만실제로는 예외 상황들이 자주 발생해서각 pipeline step간에 병목이 발생한다이러한 병목을 hazard라고 하고이러한 hazard는 주로 data 혹은 control dependency에 의해 발생한다따라서 hazard를 해결하기 위해 크게 3가지 방법이 있다고 했는데1. stall2. bypass3. speculation이라고 했다 그 중 stall은 가장 단순한 방법으로dependency가 해결될 때 까지 기다..

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식기반시스템 강의를학습을 목적으로 재구성하였습니다이번 시간에는 Assertion과 Trigger에 대해서 잠깐 살펴보고그 이후에는 SQL에서의 한계를 극복하기 위한Data Cube와 Pivoting and Cross-Tab과 같은advanced SQL에 대해서 배워본다  좀 더 복잡한 Integrity Constraint에 대해 알아보자지금까지 우리는 primary key, foreign key를 배웠는데이번에는 general constraint를 배워보자   General Constraint 에서 table을 만들 때 CHECK로 column의 데이터에 제약조건을 줄 수 있다 위 예시에서CHECK (rati..

본 게시글은서울대학교 데이터사이언스 대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식관리시스템 수업을학습을 목적으로 재구성하였습니다이번 시간은 실습 + 과제 시간이었다benchbase를 이용하여 TPC-C라는 유명 benchmark 예제를 활용해postgreSQL을 실습하는 수업이었다 본격적으로 실습 시작 전에benchmark는?benchbase는?TPC-C는?어떤 개념인지 간단하게 살펴보자  Benchmark라는 말은 정말 많이 들어봤을 것이다나도 이전회사에서 자연어 모델을 다룰 때처음 들어봤던 용어였던 것 같다 benchmark는 특정 시스템, 제품, 프로세스의 성능을측정하고 평가하는 과정을 말한다어떤 주어진 workload scenario 아래에서성능을 측정한다 따라서 다양한 프로세..

이번에 연구실 서버에 docker 환경에서 띄워놨던neo4j에 있는 data를 옮겨야 할 일이 생겼다그래서 neo4j 내부에서 명령어를 실행해서dump라는 파일을 생성해서 받아올 수 있길래 그렇게 하려고했는데 문제가 발생했다 원래라면 neo4j에서 dump 명령어를 실행하려면neo4j stop -> dump 명령어 실행을 해야하는데docker 환경에서 neo4j를 stop을 하면neo4j가 docker container의 main process라서docker container가 자꾸 죽는 것이었다 docker container가 자꾸 죽으면..neo4j 명령어 실행을 못하잖아 ㅋㅋ 그래서 또 구글링 + gpt를 하다가neo4j 자체에서 cypher로DATABASE STOP;인가를 해주면 된다고 했는데안타..

본 게시글은서울대학교 데이터사이언스대학원 성효진 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다우리가 이미 앞에서Program Representation을 배우면서다 들어봤을 내용이라고 하셨다 이전에는 프로그램의 표현을 배우기 위한 배경지식으로CPU 아키텍처에 대해서 배웠다면이번 시간에는 정말 본격적인 CPU 아키텍처에 관한 내용이라고생각하면 좋을 것 같다교수님 말씀도 너무 빠르고 진도도 너무 빨라서따라가는게 약간 벅차다 ㅠ 암튼 이번 수업 내용 정리 시작 ㅠ  컴퓨터란 무엇인가?단순히 우리가 사용하고있는 데스크탑이나 노트북 말고정말로 컴퓨터란 무엇인가? 흔히들 컴퓨터를 계산하는 기계라고 하지만그렇다면 계산기는 컴퓨터인가?보통 계산기를 컴퓨터라고 하지는 않는다   이..

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식기반시스템 강의를학습을 목적으로 재구성하였습니다저번시간에 이어서 계속해서SQL의 표현법에 대해서 알아보자  첫 번째로 나오는 개념은 subquery(혹은 nested query)이다nested query는 쿼리가 안에 있는데그 안에 또 다른 쿼리가 nesting된다는 뜻으로main query와 그 아래에 subquery가 있는 것이다 왼쪽이 그냥 일반 main query만 있는 것이고오른쪽이 subquery로 where의 조건절을 만든 것이다 그렇다면 둘 중에 어떤 것이 더 효과적일까?교수님 말씀에 따르면 오른쪽의subquery를 이용한 쿼리가 더 효율적이라고한다 왼쪽은 그냥 join을 사용한 것이고DBMS..

본 게시글은서울대학교 데이터사이언스대학원 이상원 교수님의데이터사이언스 응용을 위한 빅데이터 및 지식기반시스템 강의를학습을 목적으로 재구성하였습니다 DB에서 Set과 Bas Semantics의 개념을 알아보자이 두 개념의 가장 큰 차이는중복 허용 여부이다 Relational Algebra는 보통 Set을 따르고SQL은 보통 기본적으로 bag semantics을 따르는데set은 우리가 흔히 수학에서 말하는 집합으로중복을 허용하지 않는 것이고bag semantics는 한국어로 멀티셋 의미론이라고 하며중복되는 튜플도 허용을 한다 SQL에서는 기본적으로 중복을 허용해서튜플 쿼리 결과를 내놓지만DISTINCT를 명시해주면 중복을 제거해서 보여준다   이번 수업 시간의 주요 내용인Divison 연산인다 앞에서 배웠던..

본 게시글은서울대학교 데이터사이언스대학원 정형수 교수님의 데이터사이언스 응용을 위한 시스템 프로그래밍 강의를학습을 목적으로 재구성하였습니다  이번 시간에 배울 내용은linux 운영체제 내에서의 exception control flow에 대한 내용이다 이번 수업의 내용은 굉장히 중요한 내용인데이 내용을 이해를 하지 못하면이 시스템 프로그래밍이라는 수업 자체를따라가기가 매우 힘들어 진다고 한다 그래서 교수님께서 이번 수업은 강의 녹화본을 올릴테니이해가 안가면 갈때까지 영상을 보며 이해하라고 하셨다.. 지금까지는 단순히 assembly code와user program 내에서 어떻게 메모리와 register가 이동하고어떤 과정을 거치는지를 알아봤다면오늘 배우는 내용은 지금까지 배우는 내용에서더 확장된 내용이다 ..