Update README.md
Browse files
README.md
CHANGED
@@ -4,6 +4,7 @@ license: apache-2.0
|
|
4 |
|
5 |
这是MNBVC多模态语料小组的通用语料的格式展示。
|
6 |
|
|
|
7 |
|
8 |
1. 文件md5: 这个字段存储文件的MD5哈希值。MD5是一种广泛使用的哈希函数,它产生一个128位(16字节)的哈希值,通常用于确保数据的完整性。在这里,它可以用来唯一标识文件,或者检查文件是否被更改。
|
9 |
|
@@ -19,4 +20,42 @@ license: apache-2.0
|
|
19 |
|
20 |
6. 时间: 记录数据处理的时间。
|
21 |
|
22 |
-
7. 数据类型: 指示存储在该行中的数据类型。例如,它可以是“文本”、“图片”或其他任何类型,用于区分不同类型的数据或内容。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
4 |
|
5 |
这是MNBVC多模态语料小组的通用语料的格式展示。
|
6 |
|
7 |
+
字段说明:
|
8 |
|
9 |
1. 文件md5: 这个字段存储文件的MD5哈希值。MD5是一种广泛使用的哈希函数,它产生一个128位(16字节)的哈希值,通常用于确保数据的完整性。在这里,它可以用来唯一标识文件,或者检查文件是否被更改。
|
10 |
|
|
|
20 |
|
21 |
6. 时间: 记录数据处理的时间。
|
22 |
|
23 |
+
7. 数据类型: 指示存储在该行中的数据类型。例如,它可以是“文本”、“图片”或其他任何类型,用于区分不同类型的数据或内容。
|
24 |
+
|
25 |
+
关于图片,我们的保存方法是:
|
26 |
+
|
27 |
+
```python
|
28 |
+
def read_image(image_path):
|
29 |
+
# 打开图像文件
|
30 |
+
with open(image_path, 'rb') as file:
|
31 |
+
image = Image.open(file)
|
32 |
+
# 将图像转换为二进制格式
|
33 |
+
img_byte_arr = io.BytesIO()
|
34 |
+
image.save(img_byte_arr, format=image.format)
|
35 |
+
img_byte_arr = img_byte_arr.getvalue()
|
36 |
+
return img_byte_arr
|
37 |
+
|
38 |
+
```
|
39 |
+
|
40 |
+
这个函数首先以二进制读模式打开指定路径的图像文件。然后,它使用PIL的Image.open方法来加载图像。为了将图像转换为二进制格式,我们创建了一个BytesIO对象,然后使用图像的save方法将其保存到这个内存中的字节流中。最后,使用getvalue方法获取字节流的内容,这将是图像的二进制表示。
|
41 |
+
|
42 |
+
在这段代码中,format=image.format确保图像以其原始格式保存。这样做是为了保持图像质量和格式的一致性,不管它最初是JPEG、PNG还是其他格式。
|
43 |
+
|
44 |
+
一个读取的方法:
|
45 |
+
```python
|
46 |
+
import pandas as pd
|
47 |
+
from PIL import Image
|
48 |
+
import io
|
49 |
+
|
50 |
+
# 读取Parquet文件
|
51 |
+
df = pd.read_parquet('train.parquet')
|
52 |
+
|
53 |
+
# 遍历DataFrame的行
|
54 |
+
for index, row in df.iterrows():
|
55 |
+
# 处理图像数据
|
56 |
+
if row['图片'] is not None:
|
57 |
+
image_data = row['图片']
|
58 |
+
image = Image.open(io.BytesIO(image_data))
|
59 |
+
# 保存图像,文件名可以根据需求自定义
|
60 |
+
image.save(f'image_{index}.png')
|
61 |
+
```
|