Mysql
 sql >> Teknologi Basis Data >  >> RDS >> Mysql

Bagaimana cara mengubah tabel SQL 500GB menjadi Apache Parket?

Apache Spark dapat digunakan untuk melakukan ini:

1.load your table from mysql via jdbc
2.save it as a parquet file

Contoh:

from pyspark.sql import SparkSession
spark = SparkSession.builder.getOrCreate()
df = spark.read.jdbc("YOUR_MYSQL_JDBC_CONN_STRING",  "YOUR_TABLE",properties={"user": "YOUR_USER", "password": "YOUR_PASSWORD"})
df.write.parquet("YOUR_HDFS_FILE")


  1. Database
  2.   
  3. Mysql
  4.   
  5. Oracle
  6.   
  7. Sqlserver
  8.   
  9. PostgreSQL
  10.   
  11. Access
  12.   
  13. SQLite
  14.   
  15. MariaDB
  1. GALAT 2002 (HY000):Tidak dapat terhubung ke server MySQL lokal melalui soket '/var/run/mysqld/mysqld.sock' (2)

  2. Sintaks MySQL tampaknya benar

  3. PostgreSQL:contoh penetapan variabel yang valid?

  4. Cara memasukkan emoji ke MYSQL 5.5 dan lebih tinggi menggunakan Django ORM

  5. Pertanyaan dateTime lainnya