1장_머신러닝의 이해(Numpy, Pandas)
본 포스팅은 [파이썬 머신러닝 완벽 가이드 _ 권철민 저] 도서를 기반으로 하고 있으며, 본인이 직접 요약, 정리한 내용입니다.
Numpy ndarray 개요
- ndarray 생성 np.array()
위 단원은 데이터를 전처리하기 위한 Numpy 패키지의 개요이다.
import numpy as np
- list 형태
list1 = [1,2,3]
print("list", list1)
list [1, 2, 3]
- ndarray
array1 = np.array(list1)
print('array',array1)
array [1 2 3]
- np.array에는 list 뿐만 아니라 array도 입력 가능하다.
array2 = np.array(array1)
print('array',array2)
array [1 2 3]
- 1행 혹은 1열은 shape 매소드에서 ‘1’로 표시되지 않으므로 유의할 것
- array2의 ‘type’은 ndarray이다.
- array2안에 있는 데이터 타입 ‘dtype’은 int32이다.
print(array2.shape)
print(type(array2))
print(array2.dtype)
(3,)
<class 'numpy.ndarray'>
int32
- 아래와 같이, 서로 다른 데이터 타입의 원소를 array가 받을 순 있지만, 데이터 타입이 일관되지 않으므로, 통일시켜주자!
list1 = [1,'apple',3]
print(list1)
array1 = np.array(list1)
print(array1.dtype)
[1, 'apple', 3]
<U11
array(['1', 'apple', '3'], dtype='<U11')
- 대용량 데이터를 다룰 때 메모리의 한계가 있기 때문에 형(type) 변환을 해줄 필요가 있음 -> 메모리 절약을 위함
- ndarray는 메모리에 올라가게 되어있음
array_int = np.array([1, 2, 3])
array_float = array_int.astype('float64')
print(array_float)
[1. 2. 3.]
### axis = 0, axis = 1은 외우자
- 모든 원소의 서메이션
- axis = 0 은 행방향! (각 열 원소들의 합)
- axis = 1 은 열방향! (각 행 원소들의 합)
array2 = np.array([[1,2,3],
[2,3,4]])
print(array2.sum())
print(array2.sum(axis=0))
print(array2.sum(axis=1))
15
[3 5 7]
[6 9]
-
ndarray를 편리하게 생성하기 - arange, zeroes, ones
- np.arange는 range() 메소드와 같은 역할을 한다!
sequence_array = np.arange(10)
print(sequence_array)
print(sequence_array.dtype, sequence_array.shape)
[0 1 2 3 4 5 6 7 8 9]
int32 (10,)
- 3,2의 0 원소 혹은 1 원소의 ndarray를 생성한다
zero_array = np.zeros((3,2),dtype='int32')
print(zero_array)
print(zero_array.dtype, zero_array.shape)
one_array = np.ones((3,2))
print(one_array)
print(one_array.dtype, one_array.shape)
[[0 0]
[0 0]
[0 0]]
int32 (3, 2)
[[1. 1.]
[1. 1.]
[1. 1.]]
float64 (3, 2)
- reshape()으로 행, 열 변환
array = np.arange(9).reshape(3,3)
array
array([[0, 1, 2],
[3, 4, 5],
[6, 7, 8]])
- reshape()에 -1 인자값을 부여하여 특정 차원으로 고정된 가변적인 ndarray형태 변환
array = np.arange(10)
# 컬럼 axis 크기는 5에 고정하고 로우 axis크기를 이에 맞춰 자동으로 변환
# 즉 2x5 형태로 변환
# reshape에 -1이 들어가면, 해당 축의 크기가 가변적(자동으로 맞춰줌)이라는 의미.
array = array.reshape(-1,5)
print('array2 shape:',array.shape)
print('array2:\n', array)
array2 shape: (2, 5)
array2:
[[0 1 2 3 4]
[5 6 7 8 9]]
- reshape()는 (-1, 1), (-1,)와 같은 형태로 주로 사용된다.
# 1차원 ndarray를 2차원으로 또는 2차원 ndarray를 1차원으로 변환 시 사용.
array1 = np.arange(5)
# ★1차원 ndarray를 2차원으로 변환하되, 컬럼axis크기는 반드시 1이여야 한다.
array2d_1 = array1.reshape(-1, 1) # ★
print("array2d_1 shape:", array2d_1.shape)
print("array2d_1:\n",array2d_1)
# 2차원 ndarray를 1차원으로 변환
array1d = array2d_1.reshape(-1,) # ★
print("array1d shape:", array1d.shape)
print("array1d:\n",array1d)
array2d_1 shape: (5, 1)
array2d_1:
[[0]
[1]
[2]
[3]
[4]]
array1d shape: (5,)
array1d:
[0 1 2 3 4]
- 반드시 -1 값은 1개의 인자만 입력해야 한다.
array1.reshape(-1, -1)
---------------------------------------------------------------------------
ValueError Traceback (most recent call last)
<ipython-input-11-6b62bd4bf922> in <module>
1 # 반드시 -1 값은 1개의 인자만 입력해야 한다.
----> 2 array1.reshape(-1, -1)
ValueError: can only specify one unknown dimension
ndarray의 데이터 세트 선택하기 – 인덱싱(Indexing)
특정 위치의 단일값 추출
array = np.arange(start =1, stop = 10)
print(array)
value = array[2]
print('value:',value)
print(type(value))
[1 2 3 4 5 6 7 8 9]
value: 3
<class 'numpy.int32'>
print('맨 뒤의 값:',array1[-1], ', 맨 뒤에서 두번째 값:',array1[-2])
맨 뒤의 값: 4 , 맨 뒤에서 두번째 값: 3
array2d = np.arange(start=1, stop=10).reshape(3,3)
print(array2d)
print('(row=0,col=0) index 가리키는 값:', array2d[0,0] )
print('(row=0,col=1) index 가리키는 값:', array2d[0,1] )
print('(row=1,col=0) index 가리키는 값:', array2d[1,0] )
print('(row=2,col=2) index 가리키는 값:', array2d[2,2] )
[[1 2 3]
[4 5 6]
[7 8 9]]
(row=0,col=0) index 가리키는 값: 1
(row=0,col=1) index 가리키는 값: 2
(row=1,col=0) index 가리키는 값: 4
(row=2,col=2) index 가리키는 값: 9
슬라이싱(Slicing)
- 인덱싱 중 유일하게 list도 되는 슬라이싱 인덱싱
array1 = np.arange(start=1, stop=10)
print(array1)
print('array2d[0:2, 0:2] \n', array2d[0:2, 0:2])
print('array2d[1:3, 0:3] \n', array2d[1:3, 0:3])
print('array2d[1:3, :] \n', array2d[1:3, :])
print('array2d[:, :] \n', array2d[:, :])
print('array2d[:2, 1:] \n', array2d[:2, 1:])
print('array2d[:2, 0] \n', array2d[:2, 0])
[1 2 3 4 5 6 7 8 9]
array2d[0:2, 0:2]
[[1 2]
[4 5]]
array2d[1:3, 0:3]
[[4 5 6]
[7 8 9]]
array2d[1:3, :]
[[4 5 6]
[7 8 9]]
array2d[:, :]
[[1 2 3]
[4 5 6]
[7 8 9]]
array2d[:2, 1:]
[[2 3]
[5 6]]
array2d[:2, 0]
[1 4]
팬시 인덱싱(fancy indexing)
- 정수나 불린 값을 가지는 다른 Numpy 배열(혹은 list)로 배열을 인덱싱할 수 있는 기능을 의미한다.
- 기본 list에서는 팬시 인덱싱이 안된다!
array2d = np.arange(1,10).reshape(3,3)
array3 = array2d[[0,1], 2] # list 혹은 ndarray 값을 index로 받을 수 있다.
print('array2d[[0,1], 2] => ',array3.tolist())
array4 = array2d[[0,2], 0:2]
print('array2d[[0,2], 0:2] => ',array4.tolist())
array5 = array2d[[0,1]]
print('array2d[[0,1]] => ',array5.tolist())
array2d[[0,1], 2] => [3, 6]
array2d[[0,2], 0:2] => [[1, 2], [7, 8]]
array2d[[0,1]] => [[1, 2, 3], [4, 5, 6]]
★불린 인덱싱(Boolean indexing)
array1d = np.arange(start=1, stop=10)
print(array1d)
print(type(array1d))
[1 2 3 4 5 6 7 8 9]
<class 'numpy.ndarray'>
print(array1d > 5) # 그냥 list에서는 불린 인덱싱이 안됨!!!
var1 = array1d > 5
print("var1:",var1)
print(type(var1))
[False False False False False True True True True]
var1: [False False False False False True True True True]
<class 'numpy.ndarray'>
# [ ] 안에 array1d > 5 Boolean indexing을 적용
print(array1d)
array3 = array1d[array1d > 5]
print('array1d > 5 불린 인덱싱 결과 값 :', array3)
[1 2 3 4 5 6 7 8 9]
array1d > 5 불린 인덱싱 결과 값 : [6 7 8 9]
boolean_indexes = np.array([False, False, False, False, False, True, True, True, True])
array3 = array1d[boolean_indexes]
print('불린 인덱스로 필터링 결과 :', array3)
불린 인덱스로 필터링 결과 : [6 7 8 9]
indexes = np.array([5,6,7,8])
array4 = array1d[ indexes ] # ndarray를 index로 받음(list 뿐만 아니라 ndarray도 된다는 점에 유의하라)
print('일반 인덱스로 필터링 결과 :',array4)
일반 인덱스로 필터링 결과 : [6 7 8 9]
array1d = np.arange(start=1, stop=10)
target = []
for i in range(0, 9):
if array1d[i] > 5:
target.append(array1d[i])
array_selected = np.array(target)
print(array_selected)
# 별로 효율적이지 않으므로 불린 인덱싱을 적극 활용하자
[6 7 8 9]
행렬의 정렬 – sort( )와 argsort( )
- 행렬 정렬
# np.sort() : 원 행렬은 그대로 유지한 채 원 행렬의 정렬된 행렬을 반환. 물론 오름차순임
# ndarray.sort() 원 행렬 자체를 정렬한 형태로 변환하며 반환 값은 None
org_array = np.array([ 3, 1, 9, 5])
print('원본 행렬:', org_array)
# np.sort( )로 정렬
sort_array1 = np.sort(org_array)
print ('np.sort( ) 호출 후 반환된 정렬 행렬:', sort_array1)
print('np.sort( ) 호출 후 원본 행렬:', org_array)
# ndarray.sort( )로 정렬
sort_array2 = org_array.sort()
org_array.sort()
print('org_array.sort( ) 호출 후 반환된 행렬:', sort_array2)
print('org_array.sort( ) 호출 후 원본 행렬:', org_array)
원본 행렬: [3 1 9 5]
np.sort( ) 호출 후 반환된 정렬 행렬: [1 3 5 9]
np.sort( ) 호출 후 원본 행렬: [3 1 9 5]
org_array.sort( ) 호출 후 반환된 행렬: None
org_array.sort( ) 호출 후 원본 행렬: [1 3 5 9]
-
추가적으로 sorted와 sort의 파라미터에서
key와reverse를 잘 기억해두자 -
내림차순으로 정렬하기 위해서는 np.sort()[::1]와 같이 사용하면 된다.
sort_array1_desc = np.sort(org_array)[::-1]
print ('내림차순으로 정렬:', sort_array1_desc)
내림차순으로 정렬: [9 5 3 1]
array2d = np.array([[8, 12],
[7, 1 ]])
sort_array2d_axis0 = np.sort(array2d, axis=0)
print('로우 방향으로 정렬:\n', sort_array2d_axis0)
sort_array2d_axis1 = np.sort(array2d, axis=1) #np.sort()의 조건문임
print('컬럼 방향으로 정렬:\n', sort_array2d_axis1)
로우 방향으로 정렬:
[[ 7 1]
[ 8 12]]
컬럼 방향으로 정렬:
[[ 8 12]
[ 1 7]]
- argsort
#★★argsort() : 원본 행렬 정렬 시 정렬된 행렬의 원래 인덱스를 필요로 할 때 사용한다.
# 정렬 행렬의 원본 행렬 인덱스를 ndarray형으로 반환한다.
org_array = np.array([ 3, 1, 9, 5])
print(np.sort(org_array))
sort_indices = np.argsort(org_array)
print(type(sort_indices))
print('행렬 정렬 시 원본 행렬의 인덱스:', sort_indices)
[1 3 5 9]
<class 'numpy.ndarray'>
행렬 정렬 시 원본 행렬의 인덱스: [1 0 3 2]
org_array = np.array([ 3, 1, 9, 5])
print(np.sort(org_array)[::-1])
sort_indices_desc = np.argsort(org_array)[::-1] # argsort()도 [::-1] 가능
print('행렬 내림차순 정렬 시 원본 행렬의 인덱스:', sort_indices_desc)
[9 5 3 1]
행렬 내림차순 정렬 시 원본 행렬의 인덱스: [2 3 0 1]
key-value 형태의 데이터를 John=78, Mike=95, Sarah=84, Kate=98, Samuel=88을 ndarray로 만들고 argsort()를 이용하여 key값을 정렬
name_array=np.array(['John', 'Mike', 'Sarah', 'Kate', 'Samuel'])
score_array=np.array([78, 95, 84, 98, 88])
# score_array의 정렬된 값에 해당하는 원본 행렬 위치 인덱스 반환하고 이를 이용하여 name_array에서 name값 추출.
sort_indices = np.argsort(score_array)
print("sort indices:", sort_indices)
name_array_sort = name_array[sort_indices]
score_array_sort = score_array[sort_indices]
print(name_array_sort)
print(score_array_sort)
sort indices: [0 2 4 1 3]
['John' 'Sarah' 'Samuel' 'Mike' 'Kate']
[78 84 88 95 98]
선형대수 연산 – 행렬 내적과 전치 행렬 구하기
- 행렬 내적
A = np.array([[1, 2, 3],
[4, 5, 6]])
B = np.array([[7, 8],
[9, 10],
[11, 12]])
dot_product = np.dot(A, B)
print('행렬 내적 결과:\n', dot_product)
행렬 내적 결과:
[[ 58 64]
[139 154]]
- 전치 행렬
A = np.array([[1, 2],
[3, 4]])
transpose_mat = np.transpose(A)
print('A의 전치 행렬:\n', transpose_mat)
A의 전치 행렬:
[[1 3]
[2 4]]
Pandas 시작- 파일을 DataFrame 로딩, 기본 API
import pandas as pd
# 판다스는 주로 시계열 데이터에 대해 많은 api를 제공하고 있다.
read_csv()
read_csv()를 이용하여 csv 파일을 편리하게 DataFrame으로 로딩한다.
read_csv() 의 sep 인자를 콤마(,)가 아닌 다른 분리자로 변경하여 다른 유형의 파일도 로드가 가능하다.
titanic_df = pd.read_csv('C:/Users/Oh Won Jin/Python/PerfectGuide/1장/titanic_train.csv')
# 만일 파일의 구분자가 'tab'이면, csv가 아니라 tsv, 그리고 sep = '\t' 를 해주어야 함
# dataframe은 각 row를 고유하게 구별할 수 있는 키 값을 가짐. 즉, 키값 객체인 것임
print('titanic 변수 type:',type(titanic_df))
titanic 변수 type: <class 'pandas.core.frame.DataFrame'>
head()
DataFrame의 맨 앞 일부 데이터만 추출합니다.
titanic_df.head(5)
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 3 | Braund, Mr. Owen Harris | male | 22.0 | 1 | 0 | A/5 21171 | 7.2500 | NaN | S |
| 1 | 2 | 1 | 1 | Cumings, Mrs. John Bradley (Florence Briggs Th... | female | 38.0 | 1 | 0 | PC 17599 | 71.2833 | C85 | C |
| 2 | 3 | 1 | 3 | Heikkinen, Miss. Laina | female | 26.0 | 0 | 0 | STON/O2. 3101282 | 7.9250 | NaN | S |
| 3 | 4 | 1 | 1 | Futrelle, Mrs. Jacques Heath (Lily May Peel) | female | 35.0 | 1 | 0 | 113803 | 53.1000 | C123 | S |
| 4 | 5 | 0 | 3 | Allen, Mr. William Henry | male | 35.0 | 0 | 0 | 373450 | 8.0500 | NaN | S |
DataFrame의 생성
dic1 = {'Name': ['Chulmin', 'Eunkyung','Jinwoong','Soobeom'],
'Year': [2011, 2016, 2015, 2015],
'Gender': ['Male', 'Female', 'Male', 'Male']
}
# 딕셔너리를 DataFrame으로 변환
data_df = pd.DataFrame(dic1)
print(data_df)
print("#"*30)
# 새로운 컬럼명을 추가
data_df = pd.DataFrame(dic1, columns=["Name", "Year", "Gender", "Age"])
print(data_df)
print("#"*30)
# 인덱스를 새로운 값으로 할당.
data_df = pd.DataFrame(dic1, index=['one','two','three','four'])
print(data_df)
print("#"*30)
Name Year Gender
0 Chulmin 2011 Male
1 Eunkyung 2016 Female
2 Jinwoong 2015 Male
3 Soobeom 2015 Male
##############################
Name Year Gender Age
0 Chulmin 2011 Male NaN
1 Eunkyung 2016 Female NaN
2 Jinwoong 2015 Male NaN
3 Soobeom 2015 Male NaN
##############################
Name Year Gender
one Chulmin 2011 Male
two Eunkyung 2016 Female
three Jinwoong 2015 Male
four Soobeom 2015 Male
##############################
DataFrame의 컬럼명과 인덱스
print("columns:",titanic_df.columns)
print("index:",titanic_df.index)
print("index value:", titanic_df.index.values)
columns: Index(['PassengerId', 'Survived', 'Pclass', 'Name', 'Sex', 'Age', 'SibSp',
'Parch', 'Ticket', 'Fare', 'Cabin', 'Embarked'],
dtype='object')
index: RangeIndex(start=0, stop=891, step=1)
index value: [ 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35
36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53
54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71
72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89
90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107
108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125
126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143
144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161
162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179
180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197
198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215
216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233
234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251
252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269
270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287
288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305
306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323
324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341
342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359
360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377
378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395
396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413
414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431
432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449
450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467
468 469 470 471 472 473 474 475 476 477 478 479 480 481 482 483 484 485
486 487 488 489 490 491 492 493 494 495 496 497 498 499 500 501 502 503
504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521
522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539
540 541 542 543 544 545 546 547 548 549 550 551 552 553 554 555 556 557
558 559 560 561 562 563 564 565 566 567 568 569 570 571 572 573 574 575
576 577 578 579 580 581 582 583 584 585 586 587 588 589 590 591 592 593
594 595 596 597 598 599 600 601 602 603 604 605 606 607 608 609 610 611
612 613 614 615 616 617 618 619 620 621 622 623 624 625 626 627 628 629
630 631 632 633 634 635 636 637 638 639 640 641 642 643 644 645 646 647
648 649 650 651 652 653 654 655 656 657 658 659 660 661 662 663 664 665
666 667 668 669 670 671 672 673 674 675 676 677 678 679 680 681 682 683
684 685 686 687 688 689 690 691 692 693 694 695 696 697 698 699 700 701
702 703 704 705 706 707 708 709 710 711 712 713 714 715 716 717 718 719
720 721 722 723 724 725 726 727 728 729 730 731 732 733 734 735 736 737
738 739 740 741 742 743 744 745 746 747 748 749 750 751 752 753 754 755
756 757 758 759 760 761 762 763 764 765 766 767 768 769 770 771 772 773
774 775 776 777 778 779 780 781 782 783 784 785 786 787 788 789 790 791
792 793 794 795 796 797 798 799 800 801 802 803 804 805 806 807 808 809
810 811 812 813 814 815 816 817 818 819 820 821 822 823 824 825 826 827
828 829 830 831 832 833 834 835 836 837 838 839 840 841 842 843 844 845
846 847 848 849 850 851 852 853 854 855 856 857 858 859 860 861 862 863
864 865 866 867 868 869 870 871 872 873 874 875 876 877 878 879 880 881
882 883 884 885 886 887 888 889 890]
DataFrame에서 Series 추출 및 DataFrame 필터링 추출
-
- DataFrame객체에서 [] 연산자 내에 한 개의 컬럼만 입력하면 Series 객체를 반환
series = titanic_df['Name']
print(type(series))
<class 'pandas.core.series.Series'>
- 2 DataFrame객체에서 []연산자내에 여러개의 컬럼을 리스트로 입력하면 그 컬럼들로 구성된 DataFrame 반환
filtered_df = titanic_df[['Name', 'Age']]
print(type(filtered_df))
<class 'pandas.core.frame.DataFrame'>
-
- DataFrame객체에서 []연산자내에 한개의 컬럼을 리스트로 입력하면 한개의 컬럼으로 구성된 DataFrame 반환
one_col_df = titanic_df[['Name']] # 첫 번째의 series와 주의할 것
print(type(one_col_df))
<class 'pandas.core.frame.DataFrame'>
shape
- DataFrame의 행(Row)와 열(Column) 크기를 가지고 있는 속성이다.
print('DataFrame 크기: ', titanic_df.shape)
DataFrame 크기: (891, 12)
info()
- DataFrame내의 컬럼명, 데이터 타입, Null건수, 데이터 건수 정보를 제공한다.
전처리 시 NULL 값 처리에 사용된다.
titanic_df.info()
<class 'pandas.core.frame.DataFrame'>
RangeIndex: 891 entries, 0 to 890
Data columns (total 12 columns):
PassengerId 891 non-null int64
Survived 891 non-null int64
Pclass 891 non-null int64
Name 891 non-null object
Sex 891 non-null object
Age 714 non-null float64
SibSp 891 non-null int64
Parch 891 non-null int64
Ticket 891 non-null object
Fare 891 non-null float64
Cabin 204 non-null object
Embarked 889 non-null object
dtypes: float64(2), int64(5), object(5)
memory usage: 83.7+ KB
describe()
- 데이터값들의 평균,표준편차,4분위 분포도를 제공한다. 숫자형 컬럼들에 대해서 해당 정보를 제공한다.
titanic_df.describe()
| PassengerId | Survived | Pclass | Age | SibSp | Parch | Fare | |
|---|---|---|---|---|---|---|---|
| count | 891.000000 | 891.000000 | 891.000000 | 714.000000 | 891.000000 | 891.000000 | 891.000000 |
| mean | 446.000000 | 0.383838 | 2.308642 | 29.699118 | 0.523008 | 0.381594 | 32.204208 |
| std | 257.353842 | 0.486592 | 0.836071 | 14.526497 | 1.102743 | 0.806057 | 49.693429 |
| min | 1.000000 | 0.000000 | 1.000000 | 0.420000 | 0.000000 | 0.000000 | 0.000000 |
| 25% | 223.500000 | 0.000000 | 2.000000 | 20.125000 | 0.000000 | 0.000000 | 7.910400 |
| 50% | 446.000000 | 0.000000 | 3.000000 | 28.000000 | 0.000000 | 0.000000 | 14.454200 |
| 75% | 668.500000 | 1.000000 | 3.000000 | 38.000000 | 1.000000 | 0.000000 | 31.000000 |
| max | 891.000000 | 1.000000 | 3.000000 | 80.000000 | 8.000000 | 6.000000 | 512.329200 |
value_counts()
-
동일한 개별 데이터 값이 몇건이 있는지 정보를 제공합니다. 즉 개별 데이터값의 분포도를 제공한다.
-
★ 주의할 점은 value_counts()는 Series객체에서만 호출 될 수 있으므로 반드시 DataFrame을 단일 컬럼으로 입력하여 Series로 변환한 뒤 호출한다.
titanic_pclass = titanic_df['Pclass']
print(type(titanic_pclass))
<class 'pandas.core.series.Series'>
value_counts = titanic_df['Pclass'].value_counts()
print(value_counts)
3 491
1 216
2 184
Name: Pclass, dtype: int64
sort_values()
- by=정렬컬럼, ascending=True 또는 False로 오름차순/내림차순으로 정렬
titanic_df.sort_values(by='Pclass', ascending=True)
titanic_df[['Name','Age']].sort_values(by='Age')
titanic_df[['Name','Age','Pclass']].sort_values(by=['Pclass','Age'])
| Name | Age | Pclass | |
|---|---|---|---|
| 305 | Allison, Master. Hudson Trevor | 0.92 | 1 |
| 297 | Allison, Miss. Helen Loraine | 2.00 | 1 |
| 445 | Dodge, Master. Washington | 4.00 | 1 |
| 802 | Carter, Master. William Thornton II | 11.00 | 1 |
| 435 | Carter, Miss. Lucile Polk | 14.00 | 1 |
| ... | ... | ... | ... |
| 859 | Razi, Mr. Raihed | NaN | 3 |
| 863 | Sage, Miss. Dorothy Edith "Dolly" | NaN | 3 |
| 868 | van Melkebeke, Mr. Philemon | NaN | 3 |
| 878 | Laleff, Mr. Kristo | NaN | 3 |
| 888 | Johnston, Miss. Catherine Helen "Carrie" | NaN | 3 |
891 rows × 3 columns
DataFrame과 리스트, 딕셔너리, 넘파이 ndarray 상호 변환
리스트, ndarray에서 DataFrame변환
col_name1=['col1']
list1 = [1, 2, 3]
array1 = np.array(list1)
print('array1 shape:', array1.shape )
df_list1 = pd.DataFrame(list1, columns=col_name1)
print('1차원 리스트로 만든 DataFrame:\n', df_list1)
df_array1 = pd.DataFrame(array1, columns=col_name1)
print('1차원 ndarray로 만든 DataFrame:\n', df_array1)
array1 shape: (3,)
1차원 리스트로 만든 DataFrame:
col1
0 1
1 2
2 3
1차원 ndarray로 만든 DataFrame:
col1
0 1
1 2
2 3
# 3개의 컬럼명이 필요함.
col_name2=['col1', 'col2', 'col3']
# 2행x3열 형태의 리스트와 ndarray 생성 한 뒤 이를 DataFrame으로 변환.
list2 = [[1, 2, 3],
[11, 12, 13]]
array2 = np.array(list2)
print('array2 shape:', array2.shape )
df_list2 = pd.DataFrame(list2, columns=col_name2)
print('2차원 리스트로 만든 DataFrame:\n', df_list2)
df_array1 = pd.DataFrame(array2, columns=col_name2)
print('2차원 ndarray로 만든 DataFrame:\n', df_array1)
array2 shape: (2, 3)
2차원 리스트로 만든 DataFrame:
col1 col2 col3
0 1 2 3
1 11 12 13
2차원 ndarray로 만든 DataFrame:
col1 col2 col3
0 1 2 3
1 11 12 13
딕셔너리(dict)에서 DataFrame변환
# Key는 컬럼명으로 매핑, Value는 리스트 형(또는 ndarray)
dict = {'col1':[1, 11], 'col2':[2, 22], 'col3':[3, 33]}
df_dict = pd.DataFrame(dict)
print('딕셔너리로 만든 DataFrame:\n', df_dict)
딕셔너리로 만든 DataFrame:
col1 col2 col3
0 1 2 3
1 11 22 33
★DataFrame을 ndarray로 변환
# DataFrame을 ndarray로 변환
array3 = df_dict.values # 데이터 프레임에 .values를 입력한다.
print('df_dict.values 타입:', type(array3), 'df_dict.values shape:', array3.shape)
print(array3)
df_dict.values 타입: <class 'numpy.ndarray'> df_dict.values shape: (2, 3)
[[ 1 2 3]
[11 22 33]]
DataFrame을 리스트와 딕셔너리로 변환
# DataFrame을 리스트로 변환
# DataFrame -> array -> list 순으로 !
list3 = df_dict.values.tolist() # tolist()를 추가로 사용할 것!
print('df_dict.values.tolist() 타입:', type(list3))
print(list3)
# DataFrame을 딕셔너리로 변환
dict3 = df_dict.to_dict('list') # to_dict()르 사용할 것!
print('\n df_dict.to_dict() 타입:', type(dict3))
print(dict3)
df_dict.values.tolist() 타입: <class 'list'>
[[1, 2, 3], [11, 22, 33]]
df_dict.to_dict() 타입: <class 'dict'>
{'col1': [1, 11], 'col2': [2, 22], 'col3': [3, 33]}
DataFrame의 컬럼 데이터 셋 Access
- 새로운 컬럼에 값을 할당하려면 DataFrame [ ] 내에 새로운 컬럼명을 입력하고 값을 할당해주기만 하면 된다.
# 새로운 컬럼 추가하는 법
titanic_df['Age_0']=0
titanic_df.head(3)
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | Age_0 | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 3 | Braund, Mr. Owen Harris | male | 22.0 | 1 | 0 | A/5 21171 | 7.2500 | NaN | S | 0 |
| 1 | 2 | 1 | 1 | Cumings, Mrs. John Bradley (Florence Briggs Th... | female | 38.0 | 1 | 0 | PC 17599 | 71.2833 | C85 | C | 0 |
| 2 | 3 | 1 | 3 | Heikkinen, Miss. Laina | female | 26.0 | 0 | 0 | STON/O2. 3101282 | 7.9250 | NaN | S | 0 |
- 기존 컬럼의 값들을 더해서 컬럼을 새롭게 생성할 수 있다.
titanic_df['Age_by_10'] = titanic_df['Age']*10
titanic_df['Family_No'] = titanic_df['SibSp'] + titanic_df['Parch']+1
titanic_df.head(3)
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | Age_0 | Age_by_10 | Family_No | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 3 | Braund, Mr. Owen Harris | male | 22.0 | 1 | 0 | A/5 21171 | 7.2500 | NaN | S | 0 | 220.0 | 2 |
| 1 | 2 | 1 | 1 | Cumings, Mrs. John Bradley (Florence Briggs Th... | female | 38.0 | 1 | 0 | PC 17599 | 71.2833 | C85 | C | 0 | 380.0 | 2 |
| 2 | 3 | 1 | 3 | Heikkinen, Miss. Laina | female | 26.0 | 0 | 0 | STON/O2. 3101282 | 7.9250 | NaN | S | 0 | 260.0 | 1 |
기존 컬럼에 값을 업데이트 하려면 해당 컬럼에 업데이트값을 그대로 지정하면 된다.
# 컬럼 값 업데이트도 가능!
titanic_df['Age_by_10'] = titanic_df['Age_by_10'] + 100
titanic_df.head(3)
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | Age_0 | Age_by_10 | Family_No | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 3 | Braund, Mr. Owen Harris | male | 22.0 | 1 | 0 | A/5 21171 | 7.2500 | NaN | S | 0 | 320.0 | 2 |
| 1 | 2 | 1 | 1 | Cumings, Mrs. John Bradley (Florence Briggs Th... | female | 38.0 | 1 | 0 | PC 17599 | 71.2833 | C85 | C | 0 | 480.0 | 2 |
| 2 | 3 | 1 | 3 | Heikkinen, Miss. Laina | female | 26.0 | 0 | 0 | STON/O2. 3101282 | 7.9250 | NaN | S | 0 | 360.0 | 1 |
DataFrame 데이터 삭제
- axis에 따른 삭제 - drop()
titanic_drop_df = titanic_df.drop('Age_0', axis=1 ) # drop 메소드를 사용한다.
titanic_df.head(3)
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | Age_0 | Age_by_10 | Family_No | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 3 | Braund, Mr. Owen Harris | male | 22.0 | 1 | 0 | A/5 21171 | 7.2500 | NaN | S | 0 | 320.0 | 2 |
| 1 | 2 | 1 | 1 | Cumings, Mrs. John Bradley (Florence Briggs Th... | female | 38.0 | 1 | 0 | PC 17599 | 71.2833 | C85 | C | 0 | 480.0 | 2 |
| 2 | 3 | 1 | 3 | Heikkinen, Miss. Laina | female | 26.0 | 0 | 0 | STON/O2. 3101282 | 7.9250 | NaN | S | 0 | 360.0 | 1 |
drop( )메소드의 inplace인자의 기본값은 False 이다. 이 경우 drop( )호출을 한 DataFrame은 아무런 영향이 없으며 drop( )호출의 결과가 해당 컬럼이 drop 된 DataFrame을 반환한다.
sort()와 sorted()의 차이와 비슷하다!
titanic_drop_df.head(3)
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | Age_by_10 | Family_No | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 3 | Braund, Mr. Owen Harris | male | 22.0 | 1 | 0 | A/5 21171 | 7.2500 | NaN | S | 320.0 | 2 |
| 1 | 2 | 1 | 1 | Cumings, Mrs. John Bradley (Florence Briggs Th... | female | 38.0 | 1 | 0 | PC 17599 | 71.2833 | C85 | C | 480.0 | 2 |
| 2 | 3 | 1 | 3 | Heikkinen, Miss. Laina | female | 26.0 | 0 | 0 | STON/O2. 3101282 | 7.9250 | NaN | S | 360.0 | 1 |
여러개의 컬럼들의 삭제는 drop의 인자로 삭제 컬럼들을 리스트로 입력한다. inplace=True 일 경우 호출을 한 DataFrame에 drop이 반영됩니다. 이 때 반환값은 None이다.
drop_result = titanic_df.drop(['Age_0', 'Age_by_10', 'Family_No'], axis=1, inplace=True)
print(' inplace=True 로 drop 후 반환된 값:',drop_result)
titanic_df.head(3)
inplace=True 로 drop 후 반환된 값: None
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 3 | Braund, Mr. Owen Harris | male | 22.0 | 1 | 0 | A/5 21171 | 7.2500 | NaN | S |
| 1 | 2 | 1 | 1 | Cumings, Mrs. John Bradley (Florence Briggs Th... | female | 38.0 | 1 | 0 | PC 17599 | 71.2833 | C85 | C |
| 2 | 3 | 1 | 3 | Heikkinen, Miss. Laina | female | 26.0 | 0 | 0 | STON/O2. 3101282 | 7.9250 | NaN | S |
- axis=0 일 경우 drop()은 row 방향으로 데이터를 삭제한다.
titanic_df = pd.read_csv('C:/Users/Oh Won Jin/Python/PerfectGuide/1장/titanic_train.csv')
pd.set_option('display.width', 1000)
pd.set_option('display.max_colwidth', 15)
print('#### before axis 0 drop ####')
print(titanic_df.head(6))
titanic_df.drop([0,1,2], axis=0, inplace=True)
print('#### after axis 0 drop ####')
print(titanic_df.head(3))
#### before axis 0 drop ####
PassengerId Survived Pclass Name Sex Age SibSp Parch Ticket Fare Cabin Embarked
0 1 0 3 Braund, Mr.... male 22.0 1 0 A/5 21171 7.2500 NaN S
1 2 1 1 Cumings, Mr... female 38.0 1 0 PC 17599 71.2833 C85 C
2 3 1 3 Heikkinen, ... female 26.0 0 0 STON/O2. 31... 7.9250 NaN S
3 4 1 1 Futrelle, M... female 35.0 1 0 113803 53.1000 C123 S
4 5 0 3 Allen, Mr. ... male 35.0 0 0 373450 8.0500 NaN S
5 6 0 3 Moran, Mr. ... male NaN 0 0 330877 8.4583 NaN Q
#### after axis 0 drop ####
PassengerId Survived Pclass Name Sex Age SibSp Parch Ticket Fare Cabin Embarked
3 4 1 1 Futrelle, M... female 35.0 1 0 113803 53.1000 C123 S
4 5 0 3 Allen, Mr. ... male 35.0 0 0 373450 8.0500 NaN S
5 6 0 3 Moran, Mr. ... male NaN 0 0 330877 8.4583 NaN Q
Index 객체
# 원본 파일 재 로딩
titanic_df = pd.read_csv('C:/Users/Oh Won Jin/Python/PerfectGuide/1장/titanic_train.csv')
# Index 객체 추출
indexes = titanic_df.index
print(indexes)
# Index 객체를 실제 값 arrray로 변환
print('Index 객체 array값:\n',indexes.values)
RangeIndex(start=0, stop=891, step=1)
Index 객체 array값:
[ 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35
36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53
54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71
72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89
90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107
108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125
126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143
144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161
162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179
180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197
198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215
216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233
234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251
252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269
270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287
288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305
306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323
324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341
342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359
360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377
378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395
396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413
414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431
432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449
450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467
468 469 470 471 472 473 474 475 476 477 478 479 480 481 482 483 484 485
486 487 488 489 490 491 492 493 494 495 496 497 498 499 500 501 502 503
504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521
522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539
540 541 542 543 544 545 546 547 548 549 550 551 552 553 554 555 556 557
558 559 560 561 562 563 564 565 566 567 568 569 570 571 572 573 574 575
576 577 578 579 580 581 582 583 584 585 586 587 588 589 590 591 592 593
594 595 596 597 598 599 600 601 602 603 604 605 606 607 608 609 610 611
612 613 614 615 616 617 618 619 620 621 622 623 624 625 626 627 628 629
630 631 632 633 634 635 636 637 638 639 640 641 642 643 644 645 646 647
648 649 650 651 652 653 654 655 656 657 658 659 660 661 662 663 664 665
666 667 668 669 670 671 672 673 674 675 676 677 678 679 680 681 682 683
684 685 686 687 688 689 690 691 692 693 694 695 696 697 698 699 700 701
702 703 704 705 706 707 708 709 710 711 712 713 714 715 716 717 718 719
720 721 722 723 724 725 726 727 728 729 730 731 732 733 734 735 736 737
738 739 740 741 742 743 744 745 746 747 748 749 750 751 752 753 754 755
756 757 758 759 760 761 762 763 764 765 766 767 768 769 770 771 772 773
774 775 776 777 778 779 780 781 782 783 784 785 786 787 788 789 790 791
792 793 794 795 796 797 798 799 800 801 802 803 804 805 806 807 808 809
810 811 812 813 814 815 816 817 818 819 820 821 822 823 824 825 826 827
828 829 830 831 832 833 834 835 836 837 838 839 840 841 842 843 844 845
846 847 848 849 850 851 852 853 854 855 856 857 858 859 860 861 862 863
864 865 866 867 868 869 870 871 872 873 874 875 876 877 878 879 880 881
882 883 884 885 886 887 888 889 890]
Index는 1차원 데이터이다.
print(type(indexes.values))
print(indexes.values.shape)
print(indexes[:5].values)
print(indexes.values[:5])
print(indexes[6])
<class 'numpy.ndarray'>
(891,)
[0 1 2 3 4]
[0 1 2 3 4]
6
[ ]를 이용하여 임의로 Index의 값을 변경할 수는 없다.
indexes[0] = 5
---------------------------------------------------------------------------
TypeError Traceback (most recent call last)
<ipython-input-89-2fe1c3d18d1a> in <module>
----> 1 indexes[0] = 5
~\Anaconda3\lib\site-packages\pandas\core\indexes\base.py in __setitem__(self, key, value)
4258
4259 def __setitem__(self, key, value):
-> 4260 raise TypeError("Index does not support mutable operations")
4261
4262 def __getitem__(self, key):
TypeError: Index does not support mutable operations
Series 객체는 Index 객체를 포함하지만 Series 객체에 연산 함수를 적용할 때 Index는 연산에서 제외된다. Index는 오직 식별용으로만 사용된다.
series_fair = titanic_df['Fare']
series_fair.head(5)
0 7.2500
1 71.2833
2 7.9250
3 53.1000
4 8.0500
Name: Fare, dtype: float64
DataFrame 및 Series에 reset_index( ) 메서드를 수행하면 새롭게 인덱스를 연속 숫자 형으로 할당하며 기존 인덱스는 ‘index’라는 새로운 컬럼 명으로 추가한다.
titanic_reset_df = titanic_df.reset_index(inplace=False)
titanic_reset_df.head(3)
| index | PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 0 | 1 | 0 | 3 | Braund, Mr.... | male | 22.0 | 1 | 0 | A/5 21171 | 7.2500 | NaN | S |
| 1 | 1 | 2 | 1 | 1 | Cumings, Mr... | female | 38.0 | 1 | 0 | PC 17599 | 71.2833 | C85 | C |
| 2 | 2 | 3 | 1 | 3 | Heikkinen, ... | female | 26.0 | 0 | 0 | STON/O2. 31... | 7.9250 | NaN | S |
데이터 Selection 및 Filtering
DataFrame의 [ ] 연산자
넘파이에서 [ ] 연산자는 행의 위치, 열의 위치, 슬라이싱 범위 등을 지정해 데이터를 가져올 수 있었다.
- 하지만 DataFrame 바로 뒤에 있는 ‘[ ]’ 안에 들어갈 수 있는 것은 컬럼 명 문자(또는 컬럼 명의 리스트 객체), 또는 인덱스로 변환 가능한 표현식이다.
print('단일 컬럼 데이터 추출:\n', titanic_df[ 'Pclass' ].head(3))
print('\n여러 컬럼들의 데이터 추출:\n', titanic_df[ ['Survived', 'Pclass'] ].head(3))
print('[ ] 안에 숫자 index는 KeyError 오류 발생:\n', titanic_df[0])
단일 컬럼 데이터 추출:
0 3
1 1
2 3
Name: Pclass, dtype: int64
여러 컬럼들의 데이터 추출:
Survived Pclass
0 0 3
1 1 1
2 1 3
---------------------------------------------------------------------------
KeyError Traceback (most recent call last)
~\Anaconda3\lib\site-packages\pandas\core\indexes\base.py in get_loc(self, key, method, tolerance)
2896 try:
-> 2897 return self._engine.get_loc(key)
2898 except KeyError:
pandas\_libs\index.pyx in pandas._libs.index.IndexEngine.get_loc()
pandas\_libs\index.pyx in pandas._libs.index.IndexEngine.get_loc()
pandas\_libs\hashtable_class_helper.pxi in pandas._libs.hashtable.PyObjectHashTable.get_item()
pandas\_libs\hashtable_class_helper.pxi in pandas._libs.hashtable.PyObjectHashTable.get_item()
KeyError: 0
During handling of the above exception, another exception occurred:
KeyError Traceback (most recent call last)
<ipython-input-92-db364dee1383> in <module>
1 print('단일 컬럼 데이터 추출:\n', titanic_df[ 'Pclass' ].head(3))
2 print('\n여러 컬럼들의 데이터 추출:\n', titanic_df[ ['Survived', 'Pclass'] ].head(3))
----> 3 print('[ ] 안에 숫자 index는 KeyError 오류 발생:\n', titanic_df[0])
~\Anaconda3\lib\site-packages\pandas\core\frame.py in __getitem__(self, key)
2978 if self.columns.nlevels > 1:
2979 return self._getitem_multilevel(key)
-> 2980 indexer = self.columns.get_loc(key)
2981 if is_integer(indexer):
2982 indexer = [indexer]
~\Anaconda3\lib\site-packages\pandas\core\indexes\base.py in get_loc(self, key, method, tolerance)
2897 return self._engine.get_loc(key)
2898 except KeyError:
-> 2899 return self._engine.get_loc(self._maybe_cast_indexer(key))
2900 indexer = self.get_indexer([key], method=method, tolerance=tolerance)
2901 if indexer.ndim > 1 or indexer.size > 1:
pandas\_libs\index.pyx in pandas._libs.index.IndexEngine.get_loc()
pandas\_libs\index.pyx in pandas._libs.index.IndexEngine.get_loc()
pandas\_libs\hashtable_class_helper.pxi in pandas._libs.hashtable.PyObjectHashTable.get_item()
pandas\_libs\hashtable_class_helper.pxi in pandas._libs.hashtable.PyObjectHashTable.get_item()
KeyError: 0
앞에서 DataFrame의 [ ] 내에 숫자 값을 입력할 경우 오류가 발생한다고 했는데, Pandas의 Index 형태로 변환가능한 표현식은 [ ] 내에 입력할 수 있다.
가령 titanic_df의 처음 2개 데이터를 추출하고자 titanic_df [ 0:2 ] 와 같은 슬라이싱을 이용하였다면 정확히 원하는 결과를 반환해준다.
titanic_df[0:2]
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 3 | Braund, Mr.... | male | 22.0 | 1 | 0 | A/5 21171 | 7.2500 | NaN | S |
| 1 | 2 | 1 | 1 | Cumings, Mr... | female | 38.0 | 1 | 0 | PC 17599 | 71.2833 | C85 | C |
titanic_df[ titanic_df['Pclass'] == 3].head(3)
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 3 | Braund, Mr.... | male | 22.0 | 1 | 0 | A/5 21171 | 7.250 | NaN | S |
| 2 | 3 | 1 | 3 | Heikkinen, ... | female | 26.0 | 0 | 0 | STON/O2. 31... | 7.925 | NaN | S |
| 4 | 5 | 0 | 3 | Allen, Mr. ... | male | 35.0 | 0 | 0 | 373450 | 8.050 | NaN | S |
DataFrame ix[] 연산자
명칭 기반과 위치 기반 인덱싱 모두를 제공.
print('컬럼 위치 기반 인덱싱 데이터 추출:',titanic_df.ix[0,2])
print('컬럼명 기반 인덱싱 데이터 추출:',titanic_df.ix[0,'Pclass'])
컬럼 위치 기반 인덱싱 데이터 추출: 3
컬럼명 기반 인덱싱 데이터 추출: 3
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:1: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
"""Entry point for launching an IPython kernel.
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\pandas\core\indexing.py:961: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
return getattr(section, self.name)[new_key]
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:2: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
data = {'Name': ['Wonjin', 'Eunkyung','Jinwoong','Soobeom'],
'Year': [2011, 2016, 2015, 2015],
'Gender': ['Male', 'Female', 'Male', 'Male']
}
data_df = pd.DataFrame(data, index=['one','two','three','four'])
data_df
| Name | Year | Gender | |
|---|---|---|---|
| one | Wonjin | 2011 | Male |
| two | Eunkyung | 2016 | Female |
| three | Jinwoong | 2015 | Male |
| four | Soobeom | 2015 | Male |
print("\n ix[0,0]", data_df.ix[0,0])
print("\n ix['one', 0]", data_df.ix['one',0])
print("\n ix[3, 'Name']",data_df.ix[3, 'Name'],"\n")
print("\n ix[0:2, [0,1]]\n", data_df.ix[0:2, [0,1]])
print("\n ix[0:2, [0:3]]\n", data_df.ix[0:2, 0:3])
print("\n ix[0:3, ['Name', 'Year']]\n", data_df.ix[0:3, ['Name', 'Year']], "\n")
print("\n ix[:] \n", data_df.ix[:])
print("\n ix[:, :] \n", data_df.ix[:, :])
print("\n ix[data_df.Year >= 2014] \n", data_df.ix[data_df.Year >= 2014])
ix[0,0] Wonjin
ix['one', 0] Wonjin
ix[3, 'Name'] Soobeom
ix[0:2, [0,1]]
Name Year
one Wonjin 2011
two Eunkyung 2016
ix[0:2, [0:3]]
Name Year Gender
one Wonjin 2011 Male
two Eunkyung 2016 Female
ix[0:3, ['Name', 'Year']]
Name Year
one Wonjin 2011
two Eunkyung 2016
three Jinwoong 2015
ix[:]
Name Year Gender
one Wonjin 2011 Male
two Eunkyung 2016 Female
three Jinwoong 2015 Male
four Soobeom 2015 Male
ix[:, :]
Name Year Gender
one Wonjin 2011 Male
two Eunkyung 2016 Female
three Jinwoong 2015 Male
four Soobeom 2015 Male
ix[data_df.Year >= 2014]
Name Year Gender
two Eunkyung 2016 Female
three Jinwoong 2015 Male
four Soobeom 2015 Male
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:1: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
"""Entry point for launching an IPython kernel.
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:2: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:3: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
This is separate from the ipykernel package so we can avoid doing imports until
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:5: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
"""
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\pandas\core\indexing.py:822: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
retval = getattr(retval, self.name)._getitem_axis(key, axis=i)
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:6: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:7: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
import sys
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:8: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:9: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
if __name__ == '__main__':
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:11: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
# This is added back by InteractiveShellApp.init_path()
- rename()
# data_df 를 reset_index() 로 새로운 숫자형 인덱스를 생성
data_df_reset = data_df.reset_index()
data_df_reset = data_df_reset.rename(columns={'index':'old_index'})
# index 값에 1을 더해서 1부터 시작하는 새로운 index값 생성
data_df_reset.index = data_df_reset.index+1
data_df_reset
| old_index | Name | Year | Gender | |
|---|---|---|---|---|
| 1 | one | Wonjin | 2011 | Male |
| 2 | two | Eunkyung | 2016 | Female |
| 3 | three | Jinwoong | 2015 | Male |
| 4 | four | Soobeom | 2015 | Male |
# 아래 코드는 오류를 발생한다.
data_df_reset.ix[0,1]
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:2: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
---------------------------------------------------------------------------
ValueError Traceback (most recent call last)
~\Anaconda3\lib\site-packages\pandas\core\indexes\range.py in get_loc(self, key, method, tolerance)
375 try:
--> 376 return self._range.index(new_key)
377 except ValueError:
ValueError: 0 is not in range
During handling of the above exception, another exception occurred:
KeyError Traceback (most recent call last)
<ipython-input-99-cb9be5eee949> in <module>
1 # 아래 코드는 오류를 발생한다.
----> 2 data_df_reset.ix[0,1]
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in __getitem__(self, key)
140 return values
141
--> 142 return self._getitem_tuple(key)
143 else:
144 # we by definition only have the 0th axis
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _getitem_tuple(self, tup)
803 def _getitem_tuple(self, tup):
804 try:
--> 805 return self._getitem_lowerdim(tup)
806 except IndexingError:
807 pass
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _getitem_lowerdim(self, tup)
927 for i, key in enumerate(tup):
928 if is_label_like(key) or isinstance(key, tuple):
--> 929 section = self._getitem_axis(key, axis=i)
930
931 # we have yielded a scalar ?
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _getitem_axis(self, key, axis)
1038 return self._get_loc(key, axis=axis)
1039
-> 1040 return self._get_label(key, axis=axis)
1041
1042 def _get_listlike_indexer(self, key, axis: int, raise_missing: bool = False):
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _get_label(self, label, axis)
158 raise IndexingError("no slices here, handle elsewhere")
159
--> 160 return self.obj._xs(label, axis=axis)
161
162 def _get_loc(self, key: int, axis: int):
~\Anaconda3\lib\site-packages\pandas\core\generic.py in xs(self, key, axis, level, drop_level)
3735 loc, new_index = self.index.get_loc_level(key, drop_level=drop_level)
3736 else:
-> 3737 loc = self.index.get_loc(key)
3738
3739 if isinstance(loc, np.ndarray):
~\Anaconda3\lib\site-packages\pandas\core\indexes\range.py in get_loc(self, key, method, tolerance)
376 return self._range.index(new_key)
377 except ValueError:
--> 378 raise KeyError(key)
379 return super().get_loc(key, method=method, tolerance=tolerance)
380
KeyError: 0
data_df_reset.ix[1,1]
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:1: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
"""Entry point for launching an IPython kernel.
'Wonjin'
DataFrame iloc[ ] 연산자
위치기반 인덱싱을 제공합니다.
data_df.head()
| Name | Year | Gender | |
|---|---|---|---|
| one | Wonjin | 2011 | Male |
| two | Eunkyung | 2016 | Female |
| three | Jinwoong | 2015 | Male |
| four | Soobeom | 2015 | Male |
data_df.iloc[0, 0]
'Wonjin'
# 아래 코드는 오류를 발생합니다.
data_df.iloc[0, 'Name']
---------------------------------------------------------------------------
ValueError Traceback (most recent call last)
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _has_valid_tuple(self, key)
234 try:
--> 235 self._validate_key(k, i)
236 except ValueError:
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _validate_key(self, key, axis)
2034 "Can only index by location with "
-> 2035 "a [{types}]".format(types=self._valid_types)
2036 )
ValueError: Can only index by location with a [integer, integer slice (START point is INCLUDED, END point is EXCLUDED), listlike of integers, boolean array]
During handling of the above exception, another exception occurred:
ValueError Traceback (most recent call last)
<ipython-input-103-ab5240d8ed9d> in <module>
1 # 아래 코드는 오류를 발생합니다.
----> 2 data_df.iloc[0, 'Name']
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in __getitem__(self, key)
1416 except (KeyError, IndexError, AttributeError):
1417 pass
-> 1418 return self._getitem_tuple(key)
1419 else:
1420 # we by definition only have the 0th axis
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _getitem_tuple(self, tup)
2090 def _getitem_tuple(self, tup):
2091
-> 2092 self._has_valid_tuple(tup)
2093 try:
2094 return self._getitem_lowerdim(tup)
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _has_valid_tuple(self, key)
237 raise ValueError(
238 "Location based indexing can only have "
--> 239 "[{types}] types".format(types=self._valid_types)
240 )
241
ValueError: Location based indexing can only have [integer, integer slice (START point is INCLUDED, END point is EXCLUDED), listlike of integers, boolean array] types
# 아래 코드는 오류를 발생합니다.
data_df.iloc['one', 0]
---------------------------------------------------------------------------
ValueError Traceback (most recent call last)
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _has_valid_tuple(self, key)
234 try:
--> 235 self._validate_key(k, i)
236 except ValueError:
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _validate_key(self, key, axis)
2034 "Can only index by location with "
-> 2035 "a [{types}]".format(types=self._valid_types)
2036 )
ValueError: Can only index by location with a [integer, integer slice (START point is INCLUDED, END point is EXCLUDED), listlike of integers, boolean array]
During handling of the above exception, another exception occurred:
ValueError Traceback (most recent call last)
<ipython-input-104-0fe0a94ee06c> in <module>
1 # 아래 코드는 오류를 발생합니다.
----> 2 data_df.iloc['one', 0]
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in __getitem__(self, key)
1416 except (KeyError, IndexError, AttributeError):
1417 pass
-> 1418 return self._getitem_tuple(key)
1419 else:
1420 # we by definition only have the 0th axis
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _getitem_tuple(self, tup)
2090 def _getitem_tuple(self, tup):
2091
-> 2092 self._has_valid_tuple(tup)
2093 try:
2094 return self._getitem_lowerdim(tup)
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _has_valid_tuple(self, key)
237 raise ValueError(
238 "Location based indexing can only have "
--> 239 "[{types}] types".format(types=self._valid_types)
240 )
241
ValueError: Location based indexing can only have [integer, integer slice (START point is INCLUDED, END point is EXCLUDED), listlike of integers, boolean array] types
data_df_reset.head()
| old_index | Name | Year | Gender | |
|---|---|---|---|---|
| 1 | one | Wonjin | 2011 | Male |
| 2 | two | Eunkyung | 2016 | Female |
| 3 | three | Jinwoong | 2015 | Male |
| 4 | four | Soobeom | 2015 | Male |
data_df_reset.iloc[0, 1]
'Wonjin'
DataFrame loc[ ] 연산자
- 명칭기반 인덱싱을 제공한다.
data_df
| Name | Year | Gender | |
|---|---|---|---|
| one | Wonjin | 2011 | Male |
| two | Eunkyung | 2016 | Female |
| three | Jinwoong | 2015 | Male |
| four | Soobeom | 2015 | Male |
data_df.loc['one', 'Name']
'Wonjin'
data_df_reset
| old_index | Name | Year | Gender | |
|---|---|---|---|---|
| 1 | one | Wonjin | 2011 | Male |
| 2 | two | Eunkyung | 2016 | Female |
| 3 | three | Jinwoong | 2015 | Male |
| 4 | four | Soobeom | 2015 | Male |
data_df_reset.loc[1, 'Name']
'Wonjin'
# 아래 코드는 오류를 발생한다.
data_df_reset.loc[0, 'Name']
---------------------------------------------------------------------------
ValueError Traceback (most recent call last)
~\Anaconda3\lib\site-packages\pandas\core\indexes\range.py in get_loc(self, key, method, tolerance)
375 try:
--> 376 return self._range.index(new_key)
377 except ValueError:
ValueError: 0 is not in range
During handling of the above exception, another exception occurred:
KeyError Traceback (most recent call last)
<ipython-input-112-dd206623637b> in <module>
1 # 아래 코드는 오류를 발생한다.
----> 2 data_df_reset.loc[0, 'Name']
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in __getitem__(self, key)
1416 except (KeyError, IndexError, AttributeError):
1417 pass
-> 1418 return self._getitem_tuple(key)
1419 else:
1420 # we by definition only have the 0th axis
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _getitem_tuple(self, tup)
803 def _getitem_tuple(self, tup):
804 try:
--> 805 return self._getitem_lowerdim(tup)
806 except IndexingError:
807 pass
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _getitem_lowerdim(self, tup)
927 for i, key in enumerate(tup):
928 if is_label_like(key) or isinstance(key, tuple):
--> 929 section = self._getitem_axis(key, axis=i)
930
931 # we have yielded a scalar ?
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _getitem_axis(self, key, axis)
1848 # fall thru to straight lookup
1849 self._validate_key(key, axis)
-> 1850 return self._get_label(key, axis=axis)
1851
1852
~\Anaconda3\lib\site-packages\pandas\core\indexing.py in _get_label(self, label, axis)
158 raise IndexingError("no slices here, handle elsewhere")
159
--> 160 return self.obj._xs(label, axis=axis)
161
162 def _get_loc(self, key: int, axis: int):
~\Anaconda3\lib\site-packages\pandas\core\generic.py in xs(self, key, axis, level, drop_level)
3735 loc, new_index = self.index.get_loc_level(key, drop_level=drop_level)
3736 else:
-> 3737 loc = self.index.get_loc(key)
3738
3739 if isinstance(loc, np.ndarray):
~\Anaconda3\lib\site-packages\pandas\core\indexes\range.py in get_loc(self, key, method, tolerance)
376 return self._range.index(new_key)
377 except ValueError:
--> 378 raise KeyError(key)
379 return super().get_loc(key, method=method, tolerance=tolerance)
380
KeyError: 0
## 인덱싱 요약, 정리
print('명칭기반 ix slicing\n', data_df.ix['one':'two', 'Name'],'\n')
print('위치기반 iloc slicing\n', data_df.iloc[0:1, 0],'\n')
print('명칭기반 loc slicing\n', data_df.loc['one':'two', 'Name'])
명칭기반 ix slicing
one Wonjin
two Eunkyung
Name: Name, dtype: object
위치기반 iloc slicing
one Wonjin
Name: Name, dtype: object
명칭기반 loc slicing
one Wonjin
two Eunkyung
Name: Name, dtype: object
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:1: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
"""Entry point for launching an IPython kernel.
data_df_reset
| old_index | Name | Year | Gender | |
|---|---|---|---|---|
| 1 | one | Wonjin | 2011 | Male |
| 2 | two | Eunkyung | 2016 | Female |
| 3 | three | Jinwoong | 2015 | Male |
| 4 | four | Soobeom | 2015 | Male |
print(data_df_reset.loc[1:2 , 'Name'])
1 Wonjin
2 Eunkyung
Name: Name, dtype: object
data_df
| Name | Year | Gender | |
|---|---|---|---|
| one | Wonjin | 2011 | Male |
| two | Eunkyung | 2016 | Female |
| three | Jinwoong | 2015 | Male |
| four | Soobeom | 2015 | Male |
print(data_df.ix[1:2 , 'Name'])
two Eunkyung
Name: Name, dtype: object
C:\Users\Oh Won Jin\Anaconda3\lib\site-packages\ipykernel_launcher.py:1: FutureWarning:
.ix is deprecated. Please use
.loc for label based indexing or
.iloc for positional indexing
See the documentation here:
http://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#ix-indexer-is-deprecated
"""Entry point for launching an IPython kernel.
불린 인덱싱(Boolean indexing)
- 헷갈리는 위치기반, 명칭기반 인덱싱을 사용할 필요없이 조건식을 [ ] 안에 기입하여 간편하게 필터링을 수행.
titanic_boolean = titanic_df[titanic_df['Age'] > 60]
print(type(titanic_boolean))
titanic_boolean
<class 'pandas.core.frame.DataFrame'>
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 33 | 34 | 0 | 2 | Wheadon, Mr... | male | 66.0 | 0 | 0 | C.A. 24579 | 10.5000 | NaN | S |
| 54 | 55 | 0 | 1 | Ostby, Mr. ... | male | 65.0 | 0 | 1 | 113509 | 61.9792 | B30 | C |
| 96 | 97 | 0 | 1 | Goldschmidt... | male | 71.0 | 0 | 0 | PC 17754 | 34.6542 | A5 | C |
| 116 | 117 | 0 | 3 | Connors, Mr... | male | 70.5 | 0 | 0 | 370369 | 7.7500 | NaN | Q |
| 170 | 171 | 0 | 1 | Van der hoe... | male | 61.0 | 0 | 0 | 111240 | 33.5000 | B19 | S |
| 252 | 253 | 0 | 1 | Stead, Mr. ... | male | 62.0 | 0 | 0 | 113514 | 26.5500 | C87 | S |
| 275 | 276 | 1 | 1 | Andrews, Mi... | female | 63.0 | 1 | 0 | 13502 | 77.9583 | D7 | S |
| 280 | 281 | 0 | 3 | Duane, Mr. ... | male | 65.0 | 0 | 0 | 336439 | 7.7500 | NaN | Q |
| 326 | 327 | 0 | 3 | Nysveen, Mr... | male | 61.0 | 0 | 0 | 345364 | 6.2375 | NaN | S |
| 438 | 439 | 0 | 1 | Fortune, Mr... | male | 64.0 | 1 | 4 | 19950 | 263.0000 | C23 C25 C27 | S |
| 456 | 457 | 0 | 1 | Millet, Mr.... | male | 65.0 | 0 | 0 | 13509 | 26.5500 | E38 | S |
| 483 | 484 | 1 | 3 | Turkula, Mr... | female | 63.0 | 0 | 0 | 4134 | 9.5875 | NaN | S |
| 493 | 494 | 0 | 1 | Artagaveyti... | male | 71.0 | 0 | 0 | PC 17609 | 49.5042 | NaN | C |
| 545 | 546 | 0 | 1 | Nicholson, ... | male | 64.0 | 0 | 0 | 693 | 26.0000 | NaN | S |
| 555 | 556 | 0 | 1 | Wright, Mr.... | male | 62.0 | 0 | 0 | 113807 | 26.5500 | NaN | S |
| 570 | 571 | 1 | 2 | Harris, Mr.... | male | 62.0 | 0 | 0 | S.W./PP 752 | 10.5000 | NaN | S |
| 625 | 626 | 0 | 1 | Sutton, Mr.... | male | 61.0 | 0 | 0 | 36963 | 32.3208 | D50 | S |
| 630 | 631 | 1 | 1 | Barkworth, ... | male | 80.0 | 0 | 0 | 27042 | 30.0000 | A23 | S |
| 672 | 673 | 0 | 2 | Mitchell, M... | male | 70.0 | 0 | 0 | C.A. 24580 | 10.5000 | NaN | S |
| 745 | 746 | 0 | 1 | Crosby, Cap... | male | 70.0 | 1 | 1 | WE/P 5735 | 71.0000 | B22 | S |
| 829 | 830 | 1 | 1 | Stone, Mrs.... | female | 62.0 | 0 | 0 | 113572 | 80.0000 | B28 | NaN |
| 851 | 852 | 0 | 3 | Svensson, M... | male | 74.0 | 0 | 0 | 347060 | 7.7750 | NaN | S |
titanic_df['Age'] > 60
var1 = titanic_df['Age'] > 60
print(type(var1))
<class 'pandas.core.series.Series'>
titanic_df[titanic_df['Age'] > 60][['Name','Age']].head(3)
| Name | Age | |
|---|---|---|
| 33 | Wheadon, Mr... | 66.0 |
| 54 | Ostby, Mr. ... | 65.0 |
| 96 | Goldschmidt... | 71.0 |
titanic_df[['Name','Age']][titanic_df['Age'] > 60].head(3)
| Name | Age | |
|---|---|---|
| 33 | Wheadon, Mr... | 66.0 |
| 54 | Ostby, Mr. ... | 65.0 |
| 96 | Goldschmidt... | 71.0 |
titanic_df.loc[titanic_df['Age'] > 60, ['Name','Age']].head(3)
| Name | Age | |
|---|---|---|
| 33 | Wheadon, Mr... | 66.0 |
| 54 | Ostby, Mr. ... | 65.0 |
| 96 | Goldschmidt... | 71.0 |
논리 연산자로 결합된 조건식도 불린 인덱싱으로 적용 가능하다.
titanic_df[ (titanic_df['Age'] > 60) & (titanic_df['Pclass']==1) & (titanic_df['Sex']=='female')]
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 275 | 276 | 1 | 1 | Andrews, Mi... | female | 63.0 | 1 | 0 | 13502 | 77.9583 | D7 | S |
| 829 | 830 | 1 | 1 | Stone, Mrs.... | female | 62.0 | 0 | 0 | 113572 | 80.0000 | B28 | NaN |
조건식은 변수로도 할당 가능하다. 복잡한 조건식은 변수로 할당하여 가득성을 향상 할 수 있다.
cond1 = titanic_df['Age'] > 60
cond2 = titanic_df['Pclass']==1
cond3 = titanic_df['Sex']=='female'
titanic_df[ cond1 & cond2 & cond3]
| PassengerId | Survived | Pclass | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 275 | 276 | 1 | 1 | Andrews, Mi... | female | 63.0 | 1 | 0 | 13502 | 77.9583 | D7 | S |
| 829 | 830 | 1 | 1 | Stone, Mrs.... | female | 62.0 | 0 | 0 | 113572 | 80.0000 | B28 | NaN |
Aggregation 함수 및 GroupBy 적용
Aggregation 함수
## NaN 값은 count에서 제외
titanic_df.count()
PassengerId 891
Survived 891
Pclass 891
Name 891
Sex 891
Age 714
SibSp 891
Parch 891
Ticket 891
Fare 891
Cabin 204
Embarked 889
dtype: int64
- 특정 컬럼들로 Aggregation 함수 수행.
titanic_df[['Age', 'Fare']].mean(axis=1)
0 14.62500
1 54.64165
2 16.96250
3 44.05000
4 21.52500
...
886 20.00000
887 24.50000
888 23.45000
889 28.00000
890 19.87500
Length: 891, dtype: float64
titanic_df[['Age', 'Fare']].sum(axis=0)
Age 21205.1700
Fare 28693.9493
dtype: float64
titanic_df[['Age', 'Fare']].count()
Age 714
Fare 891
dtype: int64
groupby( )
- by 인자에 Group By 하고자 하는 컬럼을 입력, 여러개의 컬럼으로 Group by 하고자 하면 [ ] 내에 해당 컬럼명을 입력. DataFrame에 groupby( )를 호출하면 DataFrameGroupBy 객체를 반환.
titanic_groupby = titanic_df.groupby(by='Pclass')
print(type(titanic_groupby))
print(titanic_groupby)
<class 'pandas.core.groupby.generic.DataFrameGroupBy'>
<pandas.core.groupby.generic.DataFrameGroupBy object at 0x0000025CD6805888>
- DataFrameGroupBy객체에 Aggregation함수를 호출하여 Group by 수행.
titanic_groupby = titanic_df.groupby('Pclass').count()
titanic_groupby
| PassengerId | Survived | Name | Sex | Age | SibSp | Parch | Ticket | Fare | Cabin | Embarked | |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Pclass | |||||||||||
| 1 | 216 | 216 | 216 | 216 | 186 | 216 | 216 | 216 | 216 | 176 | 214 |
| 2 | 184 | 184 | 184 | 184 | 173 | 184 | 184 | 184 | 184 | 16 | 184 |
| 3 | 491 | 491 | 491 | 491 | 355 | 491 | 491 | 491 | 491 | 12 | 491 |
print(type(titanic_groupby))
print(titanic_groupby.shape)
print(titanic_groupby.index)
<class 'pandas.core.frame.DataFrame'>
(3, 11)
Int64Index([1, 2, 3], dtype='int64', name='Pclass')
titanic_groupby = titanic_df.groupby(by='Pclass')[['PassengerId', 'Survived']].count()
titanic_groupby
| PassengerId | Survived | |
|---|---|---|
| Pclass | ||
| 1 | 216 | 216 |
| 2 | 184 | 184 |
| 3 | 491 | 491 |
titanic_df[['Pclass','PassengerId', 'Survived']].groupby('Pclass').count()
| PassengerId | Survived | |
|---|---|---|
| Pclass | ||
| 1 | 216 | 216 |
| 2 | 184 | 184 |
| 3 | 491 | 491 |
titanic_df.groupby('Pclass')['Pclass'].count()
titanic_df['Pclass'].value_counts()
3 491
1 216
2 184
Name: Pclass, dtype: int64
-
RDBMS의 group by는 select 절에 여러개의 aggregation 함수를 적용할 수 있음.
-
Select max(Age), min(Age) from titanic_table group by Pclass
-
판다스는 여러개의 aggregation 함수를 적용할 수 있도록 agg( )함수를 별도로 제공
titanic_df.groupby('Pclass')['Age'].agg([max, min])
| max | min | |
|---|---|---|
| Pclass | ||
| 1 | 80.0 | 0.92 |
| 2 | 70.0 | 0.67 |
| 3 | 74.0 | 0.42 |
- 딕셔너리를 이용하여 다양한 aggregation 함수를 적용
agg_format={'Age':'max', 'SibSp':'sum', 'Fare':'mean'}
titanic_df.groupby('Pclass').agg(agg_format)
| Age | SibSp | Fare | |
|---|---|---|---|
| Pclass | |||
| 1 | 80.0 | 90 | 84.154687 |
| 2 | 70.0 | 74 | 20.662183 |
| 3 | 74.0 | 302 | 13.675550 |
apply lambda 식으로 데이터 가공
- 파이썬 lambda 식 기본
def get_square(a):
return a**2
print('3의 제곱은:',get_square(3))
3의 제곱은: 9
lambda_square = lambda x : x ** 2
print('3의 제곱은:',lambda_square(3))
3의 제곱은: 9
a=[1,2,3]
squares = map(lambda x : x**2, a)
list(squares)
[1, 4, 9]
판다스에 apply lambda 식 적용
titanic_df['Name_len']= titanic_df['Name'].apply(lambda x : len(x))
titanic_df[['Name','Name_len']].head(3)
| Name | Name_len | |
|---|---|---|
| 0 | Braund, Mr.... | 23 |
| 1 | Cumings, Mr... | 51 |
| 2 | Heikkinen, ... | 22 |
titanic_df['Child_Adult'] = titanic_df['Age'].apply(lambda x : 'Child' if x <=15 else 'Adult' )
titanic_df[['Age','Child_Adult']].head(10)
| Age | Child_Adult | |
|---|---|---|
| 0 | 22.0 | Adult |
| 1 | 38.0 | Adult |
| 2 | 26.0 | Adult |
| 3 | 35.0 | Adult |
| 4 | 35.0 | Adult |
| 5 | NaN | Adult |
| 6 | 54.0 | Adult |
| 7 | 2.0 | Child |
| 8 | 27.0 | Adult |
| 9 | 14.0 | Child |
titanic_df['Age_cat'] = titanic_df['Age'].apply(lambda x : 'Child' if x<=15 else ('Adult' if x <= 60 else
'Elderly'))
titanic_df['Age_cat'].value_counts()
Adult 609
Elderly 199
Child 83
Name: Age_cat, dtype: int64
def get_category(age):
cat = ''
if age <= 5: cat = 'Baby'
elif age <= 12: cat = 'Child'
elif age <= 18: cat = 'Teenager'
elif age <= 25: cat = 'Student'
elif age <= 35: cat = 'Young Adult'
elif age <= 60: cat = 'Adult'
else : cat = 'Elderly'
return cat
titanic_df['Age_cat'] = titanic_df['Age'].apply(lambda x : get_category(x))
titanic_df[['Age','Age_cat']].head()
| Age | Age_cat | |
|---|---|---|
| 0 | 22.0 | Student |
| 1 | 38.0 | Adult |
| 2 | 26.0 | Young Adult |
| 3 | 35.0 | Young Adult |
| 4 | 35.0 | Young Adult |