강의/system programming 16

[system programming] program optimization (compiler와 최적화 기법)

본 게시글은서울대학교 데이터사이언스대학원 성효진 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다이번 시간에 정리할 내용은프로그램 최적화에 관련된 내용이다 컴파일 언어에서는 컴파일러가 우리가 작성한 코드를자체적으로 최적화를 해주는 역할을 한다그렇다면 컴파일러는 어떤 방법으로 최적화를 진행할까?또한 컴파일러 이외에우리가 코드 레벨에서 코드를 작성할 때어떻게하면 최적화된 코드를 작성할 수 있을까?이 프로그램 최적화는 이와 관련된 내용이다 이런 컴파일러의 최적화 과정을 이해해야우리가 어떻게 프로그램을 짜야하는지 알 수 있다고 한다 이번 시간에 배울 목차이다 우리가 보통 알고리즘을 공부할 때는asymptotic complexity라고 해서흔히 빅오 표기법으로 시간 복잡도를 ..

[system programming] 가상 메모리(virtual memory) 2편

본 게시글은서울대학교 데이터사이언스대학원 정형수 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다 지난 시간에 이은 가상메모리 2편이다교수님께서 컴퓨터 공학에 있어서굉장히 중요한 부분이라고 강조 또 강조하신 부분이다 우선 지난 시간에 배운 내용을간단하게 복습하고 본격적으로이번 수업시간에 배울 내용으로 넘어가보자 1950-60년대에는 os를 Physical memory 상단부에고정 시키고 나머지 부분을 활용하는 방식을 사용했다 따라서 예전에는 physical memory가위 ppt slide처럼 구성되어있었다 가장 위에 os를 위한 부분이 있고그 아래에 여러 프로세스에 대해서저장하는 공간이 각각 할당됐었다 총 512KB정도가 있지만예전에는 이 정도 메모리도 크다고 ..

[system programming] 가상 메모리(virtual memory) 1편

본 게시글은서울대학교 데이터사이언스대학원 정형수 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다이번 수업은교수님께서 중요하다고 정말정말 강조하신가상 메모리에 대한 내용이다 이번 시간과 다음 시간에까지 진행할이 가상 메모리 개념이 중간고사 범위인데교수님이 정말정말 중요하다고 강조하셨다 가상 메모리는one of the greatest idea in computer science라고도 불릴만큼위대한(?) 개념이라고 한다 아무튼 가상메모리 수업 정리 시작-! 가상메모리는 영어로는 virtual memory인데이전 시간에 배웠던메모리 계층구조(memory hierarchy)를 위해 나온 개념이다 지난주까지 열심히 공부했던 캐시 메모리는single process가 동작할 때..

[system programming] 캐시 메모리 (Cache Memory Organization and Operation)

본 게시글은서울대학교 데이터사이언스대학원 정형수 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다 저번 시간에 이어 오늘 배울 내용은cache memory 저번시간에도 강조했지만아주아주 중요한 내용이라고 한다 이런 내용을 오늘 주로 다룬다고한다캐시 메모리가 어떻게 구조화되어있고어떻게 작동하는지랑캐시 메모리가 성능에 어느 정도로 큰 영향을 미치는지를확인해본다고 한다 지난 시간에 배웠던 것을 복습해보자자세한 내용을 확인하고싶다면이전 게시글을 확인해보면 좋을 것 같다 데이터에는 기본적인 성질과도 같은 것이 있는데그게 바로 Locality이고temporal locality와 spatial locality가 있다 이렇게 생긴 메모리 계층구조에 대해 배웠었다밑으로 내려갈수록 ..

[system programming] 메모리 계층구조와 캐시 메모리(Memory Hierarchy, Locality, Cache Memory)

본 게시글은서울대학교 데이터사이언스대학원 정형수 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다중간고사가 끝나서 뒤늦게 허겁지겁 정리해보는이전에 배운 수업내용 이번 수업 내용은 메모리 계층 구조에 관한 내용인데굉장히 굉장히 중요한 내용이고시스템 프로그래밍의 꽃과도 같은 내용이라고 한다 오늘 배울 내용은 다음과 같다고 한다 이전 시간에 배운 내용을 간단하게 복습해보자메모리에 접근해서 데이터를 다루는 명령어는read와 write가 있었다 위와 같은 어셈블리 명령어의 경우(%rsp)라고 하면rsp가 가리키고 있는 것을메모리 address로 해석해서 그곳에 접근했다 CPU에서 메인 로직을 담당하는 부분은 ALU이다 register set 전체가 register file이..

[system programming] Parallel Architectures (ILP, DLP, TLP)

본 게시글은서울대학교 데이터사이언스대학원 성효진 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다이번 시간에 배운 주된 내용은병렬 처리에 관한 내용이다 하지만 그 전에 원래 os에서exception을 어떻게 처리하는지가 나오는데사실 이전 시간에 다 배웠던 내용이라간단히만 설명하고 넘어가셨다exception handling에 대해서 잠깐만 살펴보자  우리 컴퓨터가 프로세스를 실행하는 도중에exception이 발생하면 이를 어떻게 처리할까? 실제로 각 exception ID가 있고이를 이용해서 kernel안에 있는 exception table에 들어간다그럼 예상하지 않았던 exception branch로 이동하게되고control flow hazard를 발생시킨다  에러 상..

[system programming] out of order execution & operating system(os)

본 게시글은서울대학교 데이터사이언스대학원 성효진 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다 이번 시간에는 저번 시간에 이어out of order execution 부분을마무리 짓고 다음 파트인운영체제(os) 부분으로 넘어가보려고한다 하드웨어가 ooo exectution시에 코드의 순서를 정하는dynamic scheduling에 대해서 알아보자이건 전적으로 하드웨어가 담당하는 부분이다컴파일 타임이 아닌 실행 중에코드 실행 순서를 결정하기 때문에dynamic이라는 이름이 붙었다 우선 branch prediction과 speculation을 통해실행될 코드들을 예측하고이를 instruction window라고 하는 곳에 저장해둔다 그런 다음 false dependen..

[system programming] CPU 아키텍처 2편 (CPU architecture: pipelining hazards - stall, bypass, speculation)

본 게시글은서울대학교 데이터사이언스대학원 성효진 교수님의데이터사이언스 응용을 위한 시스템 컴퓨팅 강의를학습을 목적으로 재구성하였습니다지난 시간에는 CPU 아키텍처를 배우면서각 step별 pipelining을 배웠고이런 pipelining 과정에서 각 단계마다 이쁘게 딱딱 맞아떨어지면 좋지만실제로는 예외 상황들이 자주 발생해서각 pipeline step간에 병목이 발생한다이러한 병목을 hazard라고 하고이러한 hazard는 주로 data 혹은 control dependency에 의해 발생한다따라서 hazard를 해결하기 위해 크게 3가지 방법이 있다고 했는데1. stall2. bypass3. speculation이라고 했다 그 중 stall은 가장 단순한 방법으로dependency가 해결될 때 까지 기다..

[system programming] CPU 아키텍처 1편 (CPU architecture: pipelining, hazards)

본 게시글은서울대학교 데이터사이언스대학원 성효진 교수님의데이터사이언스 응용을 위한 컴퓨팅 시스템 강의를학습을 목적으로 재구성하였습니다우리가 이미 앞에서Program Representation을 배우면서다 들어봤을 내용이라고 하셨다 이전에는 프로그램의 표현을 배우기 위한 배경지식으로CPU 아키텍처에 대해서 배웠다면이번 시간에는 정말 본격적인 CPU 아키텍처에 관한 내용이라고생각하면 좋을 것 같다교수님 말씀도 너무 빠르고 진도도 너무 빨라서따라가는게 약간 벅차다 ㅠ 암튼 이번 수업 내용 정리 시작 ㅠ 컴퓨터란 무엇인가?단순히 우리가 사용하고있는 데스크탑이나 노트북 말고정말로 컴퓨터란 무엇인가? 흔히들 컴퓨터를 계산하는 기계라고 하지만그렇다면 계산기는 컴퓨터인가?보통 계산기를 컴퓨터라고 하지는 않는다 이..

[system programming] Linux 운영체제 Exception Control Flow

본 게시글은서울대학교 데이터사이언스대학원 정형수 교수님의 데이터사이언스 응용을 위한 시스템 프로그래밍 강의를학습을 목적으로 재구성하였습니다  이번 시간에 배울 내용은linux 운영체제 내에서의 exception control flow에 대한 내용이다 이번 수업의 내용은 굉장히 중요한 내용인데이 내용을 이해를 하지 못하면이 시스템 프로그래밍이라는 수업 자체를따라가기가 매우 힘들어 진다고 한다 그래서 교수님께서 이번 수업은 강의 녹화본을 올릴테니이해가 안가면 갈때까지 영상을 보며 이해하라고 하셨다.. 지금까지는 단순히 assembly code와user program 내에서 어떻게 메모리와 register가 이동하고어떤 과정을 거치는지를 알아봤다면오늘 배우는 내용은 지금까지 배우는 내용에서더 확장된 내용이다 ..