Как читать данные CSV в массив записей в NumPy?

Question

Как читать данные CSV в массив записей в NumPy?

интересно, есть ли прямой способ импортировать содержимое CSV-файла в массив записей, так же, как R read.table(),read.delim() и read.csv() семья импортирует данные в кадр данных R?

или это лучший способ, чтобы использовать csv.читатель() и затем применить что-то вроде numpy.core.records.fromrecords()?

760 10

python numpy scipy genfromtxt

10 ответов:

Comments

Ничего не найдено.

Andrew · Accepted Answer · 2012-03-02 17:05:49

вы можете использовать NumPy и обратно в genfromtxt() метод для этого, установив delimiter kwarg до запятой.
from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')
дополнительную информацию о функции можно найти на ее соответствующем документация.

atomh33ls · Accepted Answer · 2017-05-23 15:10:48

Я бы рекомендовал read_csv

126

2017-05-23 15:10:48

btel · Accepted Answer · 2011-01-18 14:44:35

вы также можете попробовать recfromcsv() который может угадывать типы данных и возвращать правильно отформатированный массив записей.

William komp · Accepted Answer · 2018-07-15 11:26:48

я приурочил
from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = (<whatever options>))
и
import csv
import numpy as np
with open(dest_file,'r') as dest_f:
    data_iter = csv.reader(dest_f,
                           delimiter = delimiter,
                           quotechar = '"')
    data = [data for data in data_iter]
data_array = np.asarray(data, dtype = <whatever options>)
на 4,6 миллиона строк с примерно 70 столбцами и обнаружил, что путь NumPy занял 2 минуты 16 секунд, а метод понимания csv-списка занял 13 секунд.

Я бы рекомендовал метод понимания csv-list, поскольку он, скорее всего, опирается на предварительно скомпилированные библиотеки, а не на интерпретатор, как NumPy. Я подозреваю, что метод pandas будет иметь аналогичный интерпретатор накладных расходов.

HVNSweeting · Accepted Answer · 2018-07-15 11:29:04

как я пробовал оба способа с помощью NumPy и панды, использование панды имеет много преимуществ:

быстрее

меньше загрузка процессора не более!--9-->

1/3 использование ОЗУ по сравнению с NumPy genfromtxt

Это мой тестовый код:
$ for f in test_pandas.py test_numpy_csv.py ; do  /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps

23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps
test_numpy_csv.py
from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')
test_pandas.py
from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')
файл данных:
du -h ~/me/notebook/train.csv
 59M    /home/hvn/me/notebook/train.csv
С NumPy и пандами в версиях:
$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2

chamzz.dot · Accepted Answer · 2018-07-15 11:27:15

вы можете использовать этот код для отправки данных CSV-файла в массив:
import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)

muTheTechie · Accepted Answer · 2017-08-12 22:45:07

Я попытался это:

import pandas as p
import numpy as n

closingValue = p.read_csv("<FILENAME>", usecols=[4], dtype=float)
print(closingValue)

Xiaojian Chen · Accepted Answer · 2018-05-24 19:42:46

используя numpy.loadtxt

довольно простой способ. Но это требует, чтобы все элементы были float (int и так далее)
import numpy as np 
data = np.loadtxt('c:\1.csv',delimiter=',',skiprows=0)  

Matthew Park · Accepted Answer · 2018-06-14 00:00:25

Это самый простой способ:

import csv with open('testfile.csv', newline='') as csvfile: data = list(csv.reader(csvfile))

теперь каждая запись в данных является записью, представленной в виде массива. Итак, у вас есть 2D массив. Это сэкономило мне столько времени.

Jatin Mandav · Accepted Answer · 2018-07-15 11:30:23

Я бы предложил использовать таблицы (pip3 install tables). Вы можете сохранить ваш до .h5 С помощью панды (pip3 install pandas),
import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()
вы можете легко, и с меньшим временем даже для огромного количества данных, загрузить свои данные в массив NumPy.
import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()

# Data in NumPy format
data = data.values