?

Log in

Пусть Жираф был не прав,
Но виновен не Жираф,
А тот, кто крикнул из ветвей:
«Жираф большой — ему видней!» (с)

Потребовалось оперативно разобраться с технологией Spark заточенную для использования Big Data. В процессе выяснения активно использовал habrahabr, так что попробую вернуть информационный должок, поделившись приобретенным опытом.

А именно: установкой системы с нуля, настройкой и собственно программированием кода решающего задачу обработки данных для создания модели, вычисляющей вероятность банкротства клиента банка по набору таких признаков как сумма кредита, ставка и т.д.

Больших данных вроде как должно быть много, но почему-то не просто найти то злачное место, где их все щупают. Сначала попробовал вариант с ambari, но на моей Window7 валились ошибки настроек сетевого моста. В итоге прокатил вариант с преднастроенной виртуальной машиной от Cloudera (CDH). Просто устанавливаем VirtualBox, запускаем скачанный файл, указываем основные параметры (память, место) и через 5 минут достопочтенный джин Hadoop жаждет ваших указаний.

Несколько слов, почему именно Spark. Насколько я понимаю, ключевые отличия от изначальной MapReduce в том, что данные удерживаются в памяти, вместо сброса на диск, что дает ускорение во много раз. Но, пожалуй, более важны реализации целого ряда статистических функций и удобным интерфейсом для загрузки/обработки данных.

Дальше собственно код для решения следующей задачи. Есть реально большие данные (ибо рука очень устает скролить эти 2000 строк) в формате:



Есть предположение, что дефолт как-то связан с остальными параметрами (кроме первого, к уважаемым Ивановым1…N претензий нет) и нужно построить модель линейной регрессии. Прежде чем начать, стоит оговориться, что это мой первый код на Java, сам я работаю аналитиком и вообще это мой первый запуск Eclipse, настройка Maven и т.д. Так что не стоит ждать изысканных чудес, ниже решение задачи в лоб тем способом, который почему-то заработал.
Поехали:
Read more...Collapse )

Tags:

Гелик Вани (пародия)

Сделал клип-пародию на "Гелик Вани" Сереги (Полиграф ШарикOFF):


Только имеет смысл сначала посмотреть оригинал, если раньше не видели:
В качестве заметок на полях:

1. Прирост дебита средней скважины. Как я писал, модель Баккена показывает, что прирост дебита средней скважины около 20%. Но это аналитический вывод, иначе не сходится расчетный баланс с фактическим. В качестве подтверждения нужно смотреть на фактический дебит скважин. К примеру возьмем данные по накопленному дебиту скважин по состоянию на октябрь 2014 и сравним с последними данными за июль 2016.



Чтобы правильно читать этот график нужно помнить, что первые 6 месяцев не очень показательны по двум причинам:
Read more...Collapse )

Tags:

Пик потребления нефти

В продолжение предыдущей записи. Сделал расчет потребления нефти в случае еще более быстрого роста доли электрокаров + гибридов. Т.е. вплоть до того, что производство классических авто перестанет расти к 2030:


Хотя если смотреть на среднегодовые темпы производства электромобилей+гибридов, то динамика роста классических авто получается более бурной, но допустим такой вариант.

Прежде чем показать результаты проговорим про параметры. Был вопрос, почему в последние годы "полочка", а в прогнозе бурный рост. Потому что на мой взгляд полочка - обычная флуктуация. Долгосрочно рост достаточно стабилен:
Read more...Collapse )

Нефтяной мир 2030

Последняя дискуссия показала, что даже читатели моего занудного бложика не всегда понимают суть происходящего. Несмотря на необоснованные обвинения в подтасовках, хочу поблагодарить оппонента за высказанные мысли, они показывают, что именно оказалось изложено мной недостаточно ясно.

Насчет стороны передложения еще будут комментарии, поговорим сначала про потребление. Почему цены на нефть обречены на рост в среднесрочной перспективе. Потому что на растущем спросе заканчиваются дешевые источники сырья. Основной драйвер роста спроса - транспорт:

Источник: http://www.iea.org/publications/freepublications/publication/KeyWorld_Statistics_2015.pdf

До этого я намеренно не включался в обсуждения емкостей аккумуляторов и прочих аспектов электрокаров. Практика - критерий истины. Хотелось увидеть реальную динамику и только сейчас ее можно оценить. Продажи электромобилей и гибридов действительно стремительно растут, однако в 2015 году занимали всего 0.6% от продаж. Экстраполируя прирост за период 2010 - 2015 годы можно оценить долю в продажах к 2030 году:
Read more...Collapse )
Случайно узнал, что у меня оказывается была полемика с wood_stock про расчеты цен на нефть. Поиск не дал результатов. Возможно это было в ФБ, хотя я не припоминаю, чтобы кто-то спрашивал про логику расчетов, а я не ответил. Ну да, ладно, решил воспользоваться этим воистину фундаментальным постом для того, чтобы разобрать типичные ошибки в данной теме.

>>Человек упорно рисует экономическую целесообразность сланцев от 75$. Я так и не смог вытянуть из него логику выкладок

Скорее всего уважаемый оппонент не читал мой скучный бложик, иначе бы заметил пост "Расчет себестоимости сланцевой нефти", где рассчитана цена отсечения $55 на выходе из скважины (не думаю, что имеет смысл объяснять, что это вовсе не должно быть равно фактической общемировой цене). К слову говоря, буквально вчера обнаружил похожие оценки делали и другие:





Тут стоит прокомментировать, что EOG в основном работает на Eagle Ford, тогда как мои расчеты основываются на данных по Баккену. И как я писал, бурить Eagle Ford дешевле долларов на 10. Соответственно это мы и видим в данной табличке, OpEx+CapEx:

Pioneer - $55
EOG - $44
CLR - $59

>>Oasis теперь оценивает новую скважину в 6 млн $. В 2014 это стоило 10 млн.

Специально этой теме посвятил отдельный пост: "Ложь, наглая ложь и презентации нефтяных компаний". И тут дополнение, о том что обычно "забывают" упомянуть в отчетах.

Read more...Collapse )

Tags:

Старые цены о главном

Давно не писал про нефть, потому что по сути все что я писал, собственно и происходит, за чем и наблюдаем. Иран выкинул на рынок около 1 мбд. Добыча сланцев при текущих ценах деградирует, хотя многие утверждали, что технологии всех спасут и все такое, практика показывает, что мои расчеты были верны:



Как обычно, возникает вопрос: а как же так, все говорят, что себестоимость (add: читать "цена отсечения") упала и давай валяться. Например весьма уважаемая контора Rystad говорит про $40:
Read more...Collapse )

Tags:

В комментах и в ЛС спрашивают про нефть, я потом отвечу, а сейчас про отпуск :)

Отдыхая на Крите, конечно, не мог упустить возможность сходить в Белые горы (Лефка-ори). Честно говоря, после Непала или Лофотенов они показались довольно пресными, так что я даже в какой-то момент решил, что нет смысла писать отчет. Однако концовка оказалось такой восхитительной, как будто горные духи услышали мое ворчание и устроили мне под конец первоклассный экшн! Раз уж писать, то имеет смысл с начала, с предысторией развития ситуации. А она сразу началась как-то наперекосяк.

День первый.

Чтобы добраться до точки начала трека я купил экскурсию в ущелье Самарья (из деревни Малия). Это удобно в плане экономии времени, т.к. рейсовыми автобусами долго из-за расписания. Придя на посадку в 5:40 выяснил, что моего билета нет в распечатке водителя. Товарищ упорно предлагал мне покинуть сию телегу, я вежливо отказывался, предлагая ему включить телефон, мозг и набрать ими организаторам. Минут через 5 он сдался, позвонил и получив ОК мы тронулись в путь. В 11 утра я был у входа в ущелье на плато Omalos (1150 метров на уровнем моря). Предупредив гида, чтобы не ждали меня я покинул группу, которая начала спуск в ущелье. А я направился в горы по маршруту, который проложил заранее по спутниковым снимкам:



Воды я взял 3,5 литра и еще 1,4 красненького отметить встречу с Дионисом. Это важный момент, потому что именно водный вопрос и создал напряженную ситуацию под конец похода.
Read more...Collapse )
После утренних процедур я вернулся к оазису, ибо туда манило, как верблюда на водопой после недельного перехода. Слышались какие-то голоса, туристов и местных, но у истока никого не было. Я не знал, можно ли там купаться, но решил, что пусть будет можно. Поставил камеру и полез прыгать в более-менее глубоком месте:


Глубина там чуть больше метра, так что в момент погружения нужно максимально гасить скорость, чтобы не удариться. У меня в этом плане опыт большой, так что все прошло успешно. Вот как выглядит эта ванна с точки прыжка:
Read more...Collapse )
Выспавшись, я собрался в дорогу. Вчера заприметил еще один каньон, который хотелось исследовать. Иду к нему:

Read more...Collapse )

Latest Month

November 2016
S M T W T F S
  12345
6789101112
13141516171819
20212223242526
27282930   

Syndicate

RSS Atom
Powered by LiveJournal.com
Designed by Tiffany Chow